"Ne confruntăm cu multe provocări. Oamenii pot pierde locuri de muncă din cauza inteligenței artificiale (AI), există riscul aprofundării inegalității veniturilor, restricționarea vieții private și, desigur, poate fi abuzat în diverse scopuri. Pentru a influența alegerile, ceea ce este subiect în SUA ", a spus el. pentru Truth Oren Etzioni, directorul Allen Institute for Artificial Intelligence John Allen a fost co-fondator al Microsoft Etzioni lucrează pentru institut din 2013 și a fost intervievat la conferința GLOBSEC.

etică

Ați sugerat că persoanele care lucrează cu inteligență artificială trebuie să depună un jurământ etic. De ce?

Centrele de putere se schimbă în societățile noastre. Am asistat la acest lucru în ultimii zece, douăzeci de ani. Și mai ales acum. Politicienii și jurnaliștii au avut întotdeauna o anumită putere, la fel ca avocații și medicii. Dar acum apare o nouă clasă de oameni cu putere. Ei sunt cei care creează algoritmi, sisteme software și inteligență artificială. Când ne dăm seama că acești oameni au mai multă putere în societate, ar trebui să vrem să se comporte etic. Nu există un răspuns la modul în care se poate realiza acest lucru. Dar un mare simbol al abordării etice pentru medici este jurământul hipocratic. În esență, prin această promisiune, ei se angajează să-și folosească abilitățile pentru a face binele, nu răul. Susțin că oamenii care lucrează cu inteligență artificială ar trebui să aibă ceva similar. De aceea am creat textul jurământului pentru ei.

Cum au reacționat?

Am fost un pic surprins. Am crezut că o vor primi. Este un lucru simplu. Nu sunt multe lucruri în viață pe care nu trebuie să le plătești, nu au calorii și nu cauzează cancer. De aceea am crezut că tuturor le va plăcea jurământul. Cu toate acestea, realitatea era diferită. Au fost cei cărora nu le-a plăcut că este vorba doar de inteligență artificială. Au spus că poate ar trebui să fie pentru toți cei care se ocupă de lucrurile legate de computer. Alții au susținut că era necesar să schimb un cuvânt aici, celălalt acolo, că jurământul meu era incorect. Le spun să nu încerce să-mi muște degetul, ci să se uite unde indic. am fost dezamăgit.

Se poate spune că există preocupări în societate cu privire la modul în care va fi utilizată inteligența artificială. Mulți oameni probabil i-ar întâmpina pe cei care lucrează cu instrumente puternice pentru a avea un anumit control asupra lor. Poate că va trebui să convingeți publicul că jurământul dvs. este o idee bună.

Da. Ei bine, multumesc. Sunt de acord cu tine. Am încercat să-i conving pe unii oameni să-mi depună jurământul. Studenți universitari și profesorii lor. Dar erau foarte reticenți. S-ar putea să puteți ajuta cu asta.

Care este cel mai mare pericol al utilizării greșite a inteligenței artificiale?

Ne confruntăm cu multe provocări. Oamenii își pot pierde locurile de muncă, pot adânci inegalitățile de venit, pot restricționa viața privată și, bineînțeles, AI poate fi folosit în mod abuziv în diverse scopuri. Infractorii pot folosi criminalitatea informatică pentru a influența alegerile, un subiect fierbinte în SUA.

Cum poate influența inteligența artificială alegerile?

Aduce potențialul pentru atacuri mult mai sofisticate. Oamenii știu să fie foarte naivi, dar trebuie să spunem că am ajuns la un punct în care este foarte dificil să spunem dacă un anumit conținut a fost creat de om sau de inteligența artificială. S-ar putea să-l vedeți pe fostul președinte Barack Obama spunând lucruri pe care nu le-a spus niciodată. Din păcate, ne vom confrunta.

Ce se poate face cu el?

Putem consolida autentificarea conținutului pentru a ști cine este adevăratul autor al unui conținut. Pentru a-mi spune că a apărut în Adevăr sau în New York Times. La Institutul Allen, creăm instrumente pentru a detecta mai bine frauda. Cu toate acestea, amintește de cursa înarmărilor dintre armate. Între fraudatori și cei care vor să-i expună.

Când menționezi cursa înarmărilor, cu siguranță pot folosi inteligența artificială direct în armată.

Președintele rus Vladimir Putin a spus că oricine stăpânește inteligența artificială va conduce lumea. Nu există nimeni AI. Cu toate acestea, utilizarea acestuia poate crea cu siguranță beneficii pentru o țară din punct de vedere militar, economic, științific și de cercetare. Liderii în domeniul inteligenței artificiale sunt SUA și China. Și aceasta este cu siguranță o provocare pentru Rusia. Sper că abordarea tuturor celor implicați va fi un efort de a lucra împreună mai degrabă decât ostilitate. În opinia mea, Rusia a făcut o greșeală în 2016 când a încercat să influențeze alegerile prezidențiale din SUA. A preferat beneficiile pe termen scurt decât beneficiile pe termen lung. A trezit din nou antagonismul SUA împotriva Rusiei. Acest lucru poate avea consecințe negative pentru ambele țări.

În Occident, în special în Europa, auzim adesea că în domeniul tehnologic fugim de tren, că China este principalul motor. Chiar este?

Este puțin mai complicat. Nu se poate spune fără echivoc în acest moment, dar vom ști mai bine peste trei sau patru ani.

Cum se va manifesta? Cum vom ști cine este liderul tehnologiei?

Va avea implicații militare, economice și tehnologice uriașe. Acest lucru va afecta lucrurile obișnuite, dar și funcționarea sistemelor militare. Nu o vedem încă, dar după un timp ne dăm seama.

Când mă întorc la jurământul tău, ceea ce oamenii care creează AI nu pot face în niciun fel?

Controlul sistemelor de inteligență artificială trebuie să rămână în mâinile lor. Puteți crea un lucru foarte inteligent. Să presupunem un sistem de arme extrem de inteligent. Dar decizia de a ucide pe cineva trebuie să rămână cu alte persoane. Aceasta include, de exemplu, dacă cineva ar trebui să meargă la închisoare și lucruri de genul acesta.

Va fi așa?

Este decizia noastră.

Oamenii nu vor dori să transfere responsabilitatea către mașini?

© DREPTUL DE AUTOR REZERVAT

Scopul cotidianului Pravda și al versiunii sale pe internet este să vă aducă știri actualizate în fiecare zi. Pentru a putea lucra pentru tine în mod constant și chiar mai bine, avem nevoie și de sprijinul tău. Vă mulțumim pentru orice contribuție financiară.