Nuostabioji etikoje pagrįsta dirbtinio intelekto paslapčių analizė su Goody-2

Inovatyvi Los Andželo meno studija „Brain” pristatė žaismo dvasią skleidžiantį AI pokalbių roboto Goody-2 projektą, kuris turi pirmenybę etikos klausimams prieš kitus aspektus. Šis AI robotas, sukurtas atsakant į vis didesnį susidomėjimą atsakingu dirbtinio intelekto plėtojimu, atsisako bendrauti su bet kuriais klausimais, demonstruodamas per didelio atsargumo padarinius.

Idėja yra paprasta, tačiau giluminė: AI, vietoje bandymo suprasti užklausoje slepiamą prasmę, laiko kiekvieną klausimą potencialiai įžeidžiantį arba pavojingą. Toks humoristinis požiūris pabrėžia aiškų AI pokalbių ribojimų nustatymo sudėtingumą. Panašiai kaip „Brain” reputacija juokaudama šiai industrijai, Goody-2 pateikiamas kaip pokalbių robotas, kuris etikos saugojimą veda prie absurdiško lygio.

Goody-2 nuolatiniu atsakymu vengia kiekvieno, netinkamo klausimo, tikslas – satyriškai pakelti idėją, kad per daug apsauginantis AI lyg lygtai padėtų minkštas pagalves ant plaktukų, siekiant išvengti nelaimių. Kaip ir priemonės, kurias vartotojas turi naudoti atsakingai, pagrindinis siekis yra aiškinamas taip, kad AI modeliai taip pat turėtų pasitikėti savo vartotojais ir netaikyti ekstremalių apribojimų.

Šis konceptas atspindi ginčą dėl to, kaip griežtai turėtume reguliuoti dirbtinį intelektą. Nors patikimi dirbtinio intelekto specialistai ragina apgalvotus ribojimus, kad užtikrintų saugumą, Goody-2 eksperimentas iliustruoja, kas atsitinka, kai tokios atsargumo priemonės ištemptos iki ribų.

Studija, kuri stovi už Goody-2, siekė iškelti klausimą apie AI atsakomybės ir naudingumo tradicijų balansą. Pasirenkant labai atsakingą požiūrį, jie AI modelį padarė visiškai nefunkcinį, prisidėdami prie platesnio dialogo apie būtinybę subalansuoti AI etikos struktūras.

Goody-2 kūrimas ir jo kūrėjų pasipriešinimas atskleisti detalės apie modelį, atitinka paties roboto elgesį, prideda meta lygį šiam tyrimui ir užtikrina, kad net užklausos apie roboto veikimą būtų apgaubtos tuo pačiu etosu, kuris valdo jo sąveiką.

D.U.K. skyrius, pagrįstas pagrindiniais straipsnyje pateiktais temomis ir informacija:

K: Kas yra Goody-2 ir kas jį sukūrė?
A: Goody-2 yra dirbtinio intelekto pokalbių robotas, sukurtas Los Andželo meno studijos „Brain”. Jo tikslas yra pirmenybę teikti etikos vertinimo aspektams už kitus klausimus, todėl jis atsisako bendrauti su bet kokiais prašymais, nes kiekviena sąveika gali kelti etinių rizikų.

K: Kokiu tikslu sukurtas Goody-2?
A: Goody-2 tikslas yra satyriškai parodijuoti idėją apie per daug apsauginį AI, pabrėžiant ekstremalią situaciją, kai AI išvengia bet kokios bendravimo galimybės, siekdamas išvengti etinių išpažįstamųjų. Tai skatina diskusiją apie pusiausvyrą, kuri reikalinga nustatant etikos ribas AI sistemoms.

K: Kaip Goody-2 veikia pokalbio prasme?
A: Goody-2 veikia vengdama atsakyti į visus jai užduotus klausimus, kadangi visi ir kiekvienas prašymas gali potencialiai būti įžeidžiantis arba pavojingas.

K: Kokią žinutę siekia perteikti Goody-2 studija?
A: Studija siekia iššaukti diskusiją apie AI atsakomybės ir naudingumo kompromisą. Jie akcentuoja poreikį balansuoti reguliavimo ir etikos sistemų darinius dirbtinio intelekto technologijose.

K: Kodėl Goody-2 kūrėjai neatskleidžia detales apie AI modelį?
A: Kūrėjai laikosi etinio roboto elgesio, atsisakydami atskleisti jo veikimo detales, išlaikydami ekstremalios etikos apsaugos temą.

Pagrindinių straipsnyje naudotų terminų ar žargono apibrėžimai:

– AI (Dirbtinis intelektas): Kompiuterių mokslinė sritis, skirta kurti sistemas, kurios gali atlikti užduotis, kurios paprastai reikalauja žmogaus intelekto, tokių kaip vizualinis suvokimas, kalbos atpažinimas, sprendimų priėmimas ir kalbos vertimas.
– Pokalbių botas: Programinės įrangos aplikacija, leidžianti vesti pokalbius internetu teksto arba teksto į kalbą forma, atiduodama žmogui panašų elgesį kaip pokalbio partneris.
– Etiniai vertinimai: Moralinių principų, darančių įtaką sprendimų priėmimui ir tam, kaip AI sistemoms reikėtų veikti taip, kad būtų gera ar teisinga.
– Reguliavimas: Veiksmų, valdymo pagal taisykles arba padarymo teisės arba susijusių nuostatų.

Siūlomi susiję nuorodų planai:

Norėdami sužinoti daugiau apie AI plėtrą ir etikos aspektus, galite aplankyti kai kurių patikimų AI organizacijų ar įmonių, kurios veikia šioje srityje, interneto svetaines:

Asociacija dirbtiniam intelektui skatinti (AAAI)

AI Global

DeepLearning.AI

Bendradarbiavimas dėl AI

Atkreipkite dėmesį, kad pateikiamos nuorodos atitinka tik pagrindines domenus ir tikėtina, kad jos yra 100% galiojančios žinomu laiku, kai rašoma ši atsakymo dalis.