Nuo haliucinacijų iki nesąžiningų agentų, naudojant dirbtinį intelektą kyla keletas labai aiškių pavojų.
Ir vis dėlto dauguma įmonių negali sau leisti sėdėti AI revoliucijoje. Suvaldyti šią keblią realybę yra pagrindinis iššūkis šiandienos verslo lyderiams, o kelių pirmaujančių įmonių vadovai susirinko pasidalinti savo įžvalgomis ir patirtimi „Fortune Brainstorm Tech“ įmonėje Apsen mieste, Kolorado valstijoje.
Prioritetų sąrašo viršuje yra atskaitomybė. Tai yra, gebėjimas sekti ir, jei reikia, iš naujo atsekti visus veiksmus, kurių AI arba agentinė AI sistema ėmėsi atlikdama tam tikrą užduotį.
„Svarbiausias dalykas, dėl kurio nerimaujame, yra tai, kaip sukurti tokią sistemą, kuri būtų tinkama taip dažnai, kaip tik įmanoma“, – sakė Edwinas Olsonas, autonominio vairavimo technologijų įmonės „May Mobility“ įkūrėjas ir generalinis direktorius. „Bet taip pat kritiškai, kadangi žinote, kad galiausiai padarysite klaidų, kaip sukurti skaidrumą ir savistabą, kad suprastumėte, kodėl buvo padaryta klaida, ir tada pasikalbėtumėte su reguliavimo institucijomis, kaip žinote, kad išsprendėte šią problemą.
„Thomson Reuters“ vyriausioji duomenų pareigūnė Caitlin Halferty pakartojo šią nuotaiką, pabrėždama skaidrios dirbtinio intelekto išvesties svarbą: „Aš tai darau su savo komandomis, aš pats, skatinu tai su savo klientais, įsitikindamas, kad yra būdas patvirtinti bet kurio naudojamo modelio rezultatus.
„Thomson Reuters“, turėdama daugybę su dirbtiniu intelektu susijusių paslaugų, skirtų profesionalams tokiose srityse, kaip teisinis ir mokesčių įsipareigojimas, nuo pat pradžių turėjo sutelkti dėmesį į AI atskaitomybę. Anot Halferty, skaidrumas yra vienas iš keturių pagrindinių ramsčių, kuriuos bendrovė vadina „patikėtinio lygio“ produktais, kartu su duomenų privatumu ir saugumu, dalyko ekspertais ir patikimu turiniu.
Kitas svarbus būdas, kurį nurodo keli komisijos nariai, yra sistemų, kurios gali veiksmingai reguliuoti viena kitą, projektavimas. „May Mobility“ metu Olsonas teigė, kad tai apima sistemų įdiegimą į autonominius automobilius, kurios gali vienu metu imituoti ir įvertinti įvairius scenarijus bei pasirinkti geriausią variantą.
Tačiau tokios sistemos taip pat gali būti naudojamos įmonės nustatymuose ir kasdienėje darbo eigoje. Elena Kvochko, „Trustguard AI“ įkūrėja ir generalinė direktorė, vadina tai „LLM kaip teisėjo“ technika ir naudoja naujienų kambario analogiją, kad paaiškintų, kaip ji veikia.
„Turite vieną asmenį ar agentą, kurio darbas yra būti rašytoju, o paskui kitą asmenį ar agentą, kurio darbas yra būti redaktoriumi – vienintelis jo tikslas yra rasti klaidų ar netikslumų, kurių rašytojas galėjo praleisti. Taigi iš esmės taip norite, kad jūsų LLM sistemos būtų sukurtos taip, kad jos tobulėtų patys.
Tačiau, priduria Kvochko, svarbiausia yra tai, kad patikrinimas turi būti struktūrizuotas atskirose AI sistemose. „Jūs nenorite, kad AI įvertintų savo darbą“, – sakė ji.
Turėti protingą AI tikrinimo struktūrą taps vis svarbesnė, nes technologija atlieka vis daugiau užduočių ir pralenkia žmonių galimybes patikrinti visą darbą.
„Jūs atsiduriate šioje erdvėje, kur turite tiek daug nuveikto darbo, tiek daug darbo, kurį reikia atlikti auditui, kad iš tikrųjų negalite būti atskaitingi“, – sakė „SentinelOne“ vyriausiasis dirbtinio intelekto pareigūnas Gregoras Stewartas.
Jis atkreipė dėmesį į kompiuterinį kodavimą, kuris, jo teigimu, maždaug metais lenkia kitas pramonės šakas. Užuot reikalavęs, kad žmogus patikrintų dešimt tūkstančių dirbtinio intelekto surašyto kodo eilučių, komandos sugalvoja būdus, kaip priversti agentus pamėgdžioti kai kuriuos procesus, sukurtus prieš dešimtmečius žmonėms svarbiose saugai svarbiose pramonės šakose.
„Manau, kad atgims daugybė metodų, kuriuos sukūrėme saugai svarbioms technologijoms, importuojamoms į vidutinę praktiką“, – sakė Stewartas.
Nuoroda į informacijos šaltinį