<\/p>\n
Nuo haliucinacij\u0173 iki nes\u0105\u017eining\u0173 agent\u0173, naudojant dirbtin\u012f intelekt\u0105 kyla keletas labai ai\u0161ki\u0173 pavoj\u0173.<\/p>\n
Ir vis d\u0117lto dauguma \u012fmoni\u0173 negali sau leisti s\u0117d\u0117ti AI revoliucijoje. Suvaldyti \u0161i\u0105 kebli\u0105 realyb\u0119 yra pagrindinis i\u0161\u0161\u016bkis \u0161iandienos verslo lyderiams, o keli\u0173 pirmaujan\u010di\u0173 \u012fmoni\u0173 vadovai susirinko pasidalinti savo \u012f\u017evalgomis ir patirtimi \u201eFortune Brainstorm Tech\u201c \u012fmon\u0117je Apsen mieste, Kolorado valstijoje.<\/p>\n
Prioritet\u0173 s\u0105ra\u0161o vir\u0161uje yra atskaitomyb\u0117. Tai yra, geb\u0117jimas sekti ir, jei reikia, i\u0161 naujo atsekti visus veiksmus, kuri\u0173 AI arba agentin\u0117 AI sistema \u0117m\u0117si atlikdama tam tikr\u0105 u\u017eduot\u012f. <\/p>\n
\u201eSvarbiausias dalykas, d\u0117l kurio nerimaujame, yra tai, kaip sukurti toki\u0105 sistem\u0105, kuri b\u016bt\u0173 tinkama taip da\u017enai, kaip tik \u012fmanoma\u201c, \u2013 sak\u0117 Edwinas Olsonas, autonominio vairavimo technologij\u0173 \u012fmon\u0117s \u201eMay Mobility\u201c \u012fk\u016br\u0117jas ir generalinis direktorius. \u201eBet taip pat kriti\u0161kai, kadangi \u017einote, kad galiausiai padarysite klaid\u0173, kaip sukurti skaidrum\u0105 ir savistab\u0105, kad suprastum\u0117te, kod\u0117l buvo padaryta klaida, ir tada pasikalb\u0117tum\u0117te su reguliavimo institucijomis, kaip \u017einote, kad i\u0161sprend\u0117te \u0161i\u0105 problem\u0105.<\/p>\n
\u201eThomson Reuters\u201c vyriausioji duomen\u0173 pareig\u016bn\u0117 Caitlin Halferty pakartojo \u0161i\u0105 nuotaik\u0105, pabr\u0117\u017edama skaidrios dirbtinio intelekto i\u0161vesties svarb\u0105: \u201eA\u0161 tai darau su savo komandomis, a\u0161 pats, skatinu tai su savo klientais, \u012fsitikindamas, kad yra b\u016bdas patvirtinti bet kurio naudojamo modelio rezultatus.<\/p>\n
\u201eThomson Reuters\u201c, tur\u0117dama daugyb\u0119 su dirbtiniu intelektu susijusi\u0173 paslaug\u0173, skirt\u0173 profesionalams tokiose srityse, kaip teisinis ir mokes\u010di\u0173 \u012fsipareigojimas, nuo pat prad\u017ei\u0173 tur\u0117jo sutelkti d\u0117mes\u012f \u012f AI atskaitomyb\u0119. Anot Halferty, skaidrumas yra vienas i\u0161 keturi\u0173 pagrindini\u0173 rams\u010di\u0173, kuriuos bendrov\u0117 vadina \u201epatik\u0117tinio lygio\u201c produktais, kartu su duomen\u0173 privatumu ir saugumu, dalyko ekspertais ir patikimu turiniu. <\/p>\n
Kitas svarbus b\u016bdas, kur\u012f nurodo keli komisijos nariai, yra sistem\u0173, kurios gali veiksmingai reguliuoti viena kit\u0105, projektavimas. \u201eMay Mobility\u201c metu Olsonas teig\u0117, kad tai apima sistem\u0173 \u012fdiegim\u0105 \u012f autonominius automobilius, kurios gali vienu metu imituoti ir \u012fvertinti \u012fvairius scenarijus bei pasirinkti geriausi\u0105 variant\u0105.<\/p>\n
Ta\u010diau tokios sistemos taip pat gali b\u016bti naudojamos \u012fmon\u0117s nustatymuose ir kasdien\u0117je darbo eigoje. Elena Kvochko, \u201eTrustguard AI\u201c \u012fk\u016br\u0117ja ir generalin\u0117 direktor\u0117, vadina tai \u201eLLM kaip teis\u0117jo\u201c technika ir naudoja naujien\u0173 kambario analogij\u0105, kad paai\u0161kint\u0173, kaip ji veikia.<\/p>\n
\u201eTurite vien\u0105 asmen\u012f ar agent\u0105, kurio darbas yra b\u016bti ra\u0161ytoju, o paskui kit\u0105 asmen\u012f ar agent\u0105, kurio darbas yra b\u016bti redaktoriumi \u2013 vienintelis jo tikslas yra rasti klaid\u0173 ar netikslum\u0173, kuri\u0173 ra\u0161ytojas gal\u0117jo praleisti. Taigi i\u0161 esm\u0117s taip norite, kad j\u016bs\u0173 LLM sistemos b\u016bt\u0173 sukurtos taip, kad jos tobul\u0117t\u0173 patys.<\/p>\n
Ta\u010diau, priduria Kvochko, svarbiausia yra tai, kad patikrinimas turi b\u016bti strukt\u016brizuotas atskirose AI sistemose. \u201eJ\u016bs nenorite, kad AI \u012fvertint\u0173 savo darb\u0105\u201c, – sak\u0117 ji.<\/p>\n
Tur\u0117ti proting\u0105 AI tikrinimo strukt\u016br\u0105 taps vis svarbesn\u0117, nes technologija atlieka vis daugiau u\u017eduo\u010di\u0173 ir pralenkia \u017emoni\u0173 galimybes patikrinti vis\u0105 darb\u0105. <\/p>\n
\u201eJ\u016bs atsiduriate \u0161ioje erdv\u0117je, kur turite tiek daug nuveikto darbo, tiek daug darbo, kur\u012f reikia atlikti auditui, kad i\u0161 tikr\u0173j\u0173 negalite b\u016bti atskaitingi\u201c, \u2013 sak\u0117 \u201eSentinelOne\u201c vyriausiasis dirbtinio intelekto pareig\u016bnas Gregoras Stewartas.<\/p>\n
Jis atkreip\u0117 d\u0117mes\u012f \u012f kompiuterin\u012f kodavim\u0105, kuris, jo teigimu, ma\u017edaug metais lenkia kitas pramon\u0117s \u0161akas. U\u017euot reikalav\u0119s, kad \u017emogus patikrint\u0173 de\u0161imt t\u016bkstan\u010di\u0173 dirbtinio intelekto sura\u0161yto kodo eilu\u010di\u0173, komandos sugalvoja b\u016bdus, kaip priversti agentus pam\u0117gd\u017eioti kai kuriuos procesus, sukurtus prie\u0161 de\u0161imtme\u010dius \u017emon\u0117ms svarbiose saugai svarbiose pramon\u0117s \u0161akose.<\/p>\n
\u201eManau, kad atgims daugyb\u0117 metod\u0173, kuriuos suk\u016br\u0117me saugai svarbioms technologijoms, importuojamoms \u012f vidutin\u0119 praktik\u0105\u201c, – sak\u0117 Stewartas.<\/p>\n<\/div>\n