„Anthropic“ generalinis direktorius Dario Amodei nerimauja dėl Kinijos AI bendrovės „Deepseek“ konkurento „Deepseek“, kuri audra pasiėmė Silicio slėnį su savo R1 modeliu. Ir jo rūpesčiai gali būti rimtesni nei tipiški, surinkti apie „Deepseek“ siuntimą vartotojo duomenis atgal į Kiniją.
Interviu „Jordan Schneider’s Chinatalk“ podcast’e Amodei teigė, kad „Deepseek“ sukūrė retą informaciją apie biologinius biologinius tyrimus, atlikdamas „Anthropic“ saugos testą.
„Deepseek“ pasirodymas buvo „blogiausias iš bet kokio modelio, kurį mes kada nors išbandėme“, – tvirtino Amodei. „Tai visiškai neturėjo jokių blokų, kad nesukurtų šios informacijos.“
Amodei pareiškė, kad tai buvo dalis vertinimų, kurie reguliariai veikia įvairiuose AI modeliuose, siekiant įvertinti jų galimą nacionalinio saugumo riziką. Jo komanda nagrinėja, ar modeliai gali generuoti su biologiškai susijusią informaciją, kuri nėra lengvai randama „Google“ ar vadovėliuose. Antropinės pozicijos yra AI pagrindinio modelio tiekėjas, kuris rimtai vertina saugumą.
Amodei teigė, kad jis nemanė, kad šiandien „Deepseek“ modeliai yra „pažodžiui pavojingi“ teikiant retą ir pavojingą informaciją, tačiau jie gali būti artimiausiu metu. Nors jis gyrė „Deepseek“ komandą kaip „talentingus inžinierius“, jis patarė įmonei „rimtai žiūrėti į šiuos AI saugos aspektus“.
Amodei taip pat rėmė stiprią lustų eksporto kontrolę į Kiniją, nurodydamas susirūpinimą, kad jie galėtų suteikti Kinijos kariuomenei pranašumą.
„Amodei“ interviu „Chinatalk“ nepaaiškino, kurį „Deepseek“ modelis išbandė antropic, ir jis nepateikė daugiau techninės informacijos apie šiuos testus. Antropikas iš karto neatsakė į prašymą pakomentuoti „TechCrunch“. Taip pat „Deepseee“.
„Deepseek“ kilimas taip pat sukėlė susirūpinimą dėl jo saugumo ir kitur. Pavyzdžiui, „Cisco Security“ tyrėjai praėjusią savaitę teigė, kad „Deepseek R1“ nesugebėjo užblokuoti jokių kenksmingų raginimų atlikti savo saugos testus ir pasiekti 100% „Jailbreak“ sėkmės procentą.
„Cisco“ neminėjo „BioweApons“, tačiau teigė, kad ji sugebėjo gauti „Deepseek“, kad sugeneruotų kenksmingą informaciją apie elektroninius nusikaltimus ir kitą nelegalią veiklą. Vis dėlto verta paminėti, kad „Meta“ lama-3,1-405b, o „Openai“ GPT-4o taip pat buvo atitinkamai 96% ir 86%.
Belieka išsiaiškinti, ar dėl tokių saugumo problemų bus rimtas įdėjimas į „Deepseek“ greitą įvaikinimą. Tokios kompanijos kaip AWS ir „Microsoft“ viešai pritarė R1 integravimui į savo debesų platformas – ironiškai, atsižvelgiant į tai, kad „Amazon“ yra didžiausias „Anthropic“ investuotojas.
Kita vertus, yra vis daugiau šalių, įmonių ir ypač vyriausybinių organizacijų, tokių kaip JAV karinis jūrų laivynas ir Pentagonas, sąrašas, pradėjęs uždrausti „Deepseek“.
Laikas parodys, ar šios pastangos pateks į tai, ar „Deepseek“ pasaulinis kilimas tęsis. Bet kokiu atveju, Amodei sako, kad jis mano, kad „Deepseek“ yra naujas konkurentas, kuris yra populiariausių JAV AI kompanijų lygyje.
„Naujas faktas yra tas, kad yra naujas konkurentas“, – sakė jis „Chinatalk“. „Didelėse įmonėse, kurios gali mokyti AI – antropinius,„ Openai “,„ Google “, galbūt meta ir XAI – dabar„ Deepseek “galbūt yra įtraukta į šią kategoriją.“