{"id":1118,"date":"2024-11-09T05:00:50","date_gmt":"2024-11-09T05:00:50","guid":{"rendered":"https:\/\/europaskolos.lt\/index.php\/2024\/11\/09\/openai-netenka-kitos-vadovaujancios-saugos-tyrejos-lilian-weng\/"},"modified":"2024-11-09T05:00:50","modified_gmt":"2024-11-09T05:00:50","slug":"openai-netenka-kitos-vadovaujancios-saugos-tyrejos-lilian-weng","status":"publish","type":"post","link":"https:\/\/europaskolos.lt\/index.php\/2024\/11\/09\/openai-netenka-kitos-vadovaujancios-saugos-tyrejos-lilian-weng\/","title":{"rendered":"OpenAI netenka kitos vadovaujan\u010dios saugos tyr\u0117jos Lilian Weng"},"content":{"rendered":"


\n<\/p>\n

\n

Kita \u201eOpenAI\u201c vadovaujanti saugos tyr\u0117ja Lilian Weng penktadien\u012f paskelb\u0117, kad palieka startuol\u012f. Weng nuo rugpj\u016b\u010dio \u0117jo tyrim\u0173 ir saugos viceprezidento pareigas, o prie\u0161 tai buvo OpenAI saugos sistem\u0173 komandos vadovas.<\/p>\n

\u012era\u0161e apie X Weng sak\u0117, kad \u201epo 7 met\u0173 OpenAI jau\u010diuosi pasireng\u0119s i\u0161 naujo nustatyti ir i\u0161tirti ka\u017ek\u0105 naujo\u201c. Weng sak\u0117, kad jos paskutin\u0117 diena bus lapkri\u010dio 15 d., ta\u010diau nenurod\u0117, kur ji vyks toliau.<\/p>\n

\u201ePri\u0117miau nepaprastai sunk\u0173 sprendim\u0105 palikti OpenAI\u201c, \u2013 prane\u0161ime sak\u0117 Weng. \u201e\u017di\u016br\u0117damas \u012f tai, k\u0105 pasiek\u0117me, a\u0161 labai did\u017eiuojuosi visais saugos sistem\u0173 komandos nariais ir labai tikiu, kad komanda ir toliau klest\u0117s.<\/p>\n

Wengo pasitraukimas yra naujausias \u012fvykis i\u0161 ilgos dirbtinio intelekto saugos tyr\u0117j\u0173, politikos tyrin\u0117toj\u0173 ir kit\u0173 vadov\u0173, kurie pra\u0117jusiais metais pasitrauk\u0117 i\u0161 \u012fmon\u0117s, ir kai kurie apkaltino OpenAI pirmenyb\u0119 teikiant komerciniams produktams, o ne AI saugai. Weng prisijungia prie Iljos Sutskeverio ir Jano Leike \u2013 dabar jau panaikintos \u201eOpenAI\u201c \u201eSuperalignment\u201c komandos, kuri band\u0117 sukurti metodus, kaip valdyti itin intelektualias dirbtinio intelekto sistemas, vadov\u0173, kurie \u0161iais metais taip pat paliko startuol\u012f ir dirba dirbtinio intelekto saugos klausimais kitur.<\/p>\n

Anot jos \u201eLinkedIn\u201c, Weng pirm\u0105 kart\u0105 prisijung\u0117 prie OpenAI 2018 m., dirbdama startuolio robotikos komandoje, kuri galiausiai suk\u016br\u0117 roboto rank\u0105, galin\u010di\u0105 i\u0161spr\u0119sti Rubiko kub\u0105 \u2013 u\u017eduo\u010diai, kuriai atlikti prireik\u0117 dvej\u0173 met\u0173, pasak jos \u012fra\u0161o. <\/p>\n

Kai OpenAI prad\u0117jo daugiau d\u0117mesio skirti GPT paradigmai, tai padar\u0117 ir Weng. 2021 m. mokslininkas per\u0117jo pad\u0117ti sukurti naujojo taikomojo dirbtinio intelekto tyrim\u0173 komand\u0105. Prad\u0117jus GPT-4, Weng buvo pavesta sukurti speciali\u0105 komand\u0105, kuri 2023 m. sukurt\u0173 saugos sistemas startuoliui. \u0160iandien OpenAI saugos sistem\u0173 padalinys turi daugiau nei 80 mokslinink\u0173, tyrin\u0117toj\u0173 ir politikos ekspert\u0173, remiantis Wengo \u012fra\u0161u.<\/p>\n

Tai daug dirbtinio intelekto saugos \u017emoni\u0173, ta\u010diau daugelis i\u0161rei\u0161k\u0117 susir\u016bpinim\u0105 d\u0117l OpenAI d\u0117mesio saugai, nes ji bando kurti vis galingesnes AI sistemas. Milesas Brundage’as, ilgametis politikos tyrin\u0117tojas, spal\u012f paliko startuol\u012f ir paskelb\u0117, kad OpenAI paleido AGI parengties komand\u0105, kuriai jis patar\u0117. T\u0105 pa\u010di\u0105 dien\u0105 \u201eNew York Times\u201c apra\u0161\u0117 buvus\u012f \u201eOpenAI\u201c tyr\u0117j\u0105 Suchir\u0105 Balaji, kuris teig\u0117 palik\u0119s \u201eOpenAI\u201c, nes man\u0117, kad startuolio technologija atne\u0161 visuomenei daugiau \u017ealos nei naudos.<\/p>\n

\u201eOpenAI\u201c pasakoja \u201eTechCrunch\u201c, kad vadovai ir saugos tyr\u0117jai stengiasi pakeisti Weng\u0105.<\/p>\n

\u201eLabai vertiname Lilian ind\u0117l\u012f \u012f novatori\u0161kus saugos tyrimus ir kuriant grie\u017etas technines apsaugos priemones\u201c, \u2013 elektroniniu pa\u0161tu atsi\u0173stame prane\u0161ime sak\u0117 OpenAI atstovas. \u201eEsame \u012fsitikin\u0119, kad saugos sistem\u0173 komanda ir toliau atliks pagrindin\u012f vaidmen\u012f u\u017etikrinant, kad m\u016bs\u0173 sistemos b\u016bt\u0173 saugios ir patikimos, aptarnaudamos \u0161imtus milijon\u0173 \u017emoni\u0173 visame pasaulyje.<\/p>\n

Kiti vadovai, kurie pastaraisiais m\u0117nesiais paliko OpenAI, yra CTO Mira Murati, vyriausiasis tyrim\u0173 pareig\u016bnas Bobas McGrew ir tyrim\u0173 viceprezidentas Barretas Zophas. Rugpj\u016b\u010dio m\u0117n. garsus tyr\u0117jas Andrejus Karpathy ir vienas i\u0161 \u012fk\u016br\u0117j\u0173 Johnas Schulmanas taip pat paskelb\u0117, kad pasitrauks i\u0161 startuolio. Kai kurie i\u0161 \u0161i\u0173 \u017emoni\u0173, \u012fskaitant Leike ir Schulman, i\u0161vyko prisijungti prie OpenAI konkurento Anthropic, o kiti prad\u0117jo savo versl\u0105.<\/p>\n<\/div>\n


\n
Source link <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Kita \u201eOpenAI\u201c vadovaujanti saugos tyr\u0117ja Lilian Weng penktadien\u012f paskelb\u0117, kad palieka startuol\u012f. Weng nuo rugpj\u016b\u010dio \u0117jo tyrim\u0173 ir saugos viceprezidento pareigas, o prie\u0161 tai buvo OpenAI saugos sistem\u0173 komandos vadovas. \u012era\u0161e apie X Weng sak\u0117, kad \u201epo 7 met\u0173 OpenAI jau\u010diuosi pasireng\u0119s i\u0161 naujo nustatyti ir i\u0161tirti ka\u017ek\u0105 naujo\u201c. Weng sak\u0117, kad jos paskutin\u0117 diena […]<\/p>\n","protected":false},"author":1,"featured_media":1119,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[5],"tags":[1826,1830,1825,589,1828,1829,1827,1831],"class_list":["post-1118","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologijos-programine-iranga-prietaisai","tag-kitos","tag-lilian","tag-netenka","tag-openai","tag-saugos","tag-tyrejos","tag-vadovaujancios","tag-weng"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t