Expert în inteligență artificială Mária Bieliková: Nu mă tem de roboți, ci de oameni

Inteligența artificială (AI) este o parte atât de comună a vieții noastre, încât suntem obișnuiți cu ea și de multe ori nici nu ne dăm seama că este aici. Traduce texte, navighează în mașini, ne sfătuiește în magazinele electronice sau ajută băncile să decidă cui să acorde credit ...

Totuși, AI ridică, de asemenea, întrebări controversate cu privire la dezvoltarea, aplicarea sau impactul său viitor pe piața muncii. Profesor Mária Bieliková este președintele Centrului Slovac pentru Cercetarea Inteligenței Artificiale - Slovak.AI și membru al grupului de experți pentru AI la Comisia Europeană.

Am vorbit cu ea în podcastul E-tika, care este despre impactul social al tehnologiilor digitale.

Printre altele, veți învăța din interviu:

  • când putem lăsa AI liber și când ar trebui să ne ocupăm de ea;
  • cum ar putea Slovacia să fie relevantă în lumea AI;
  • ce ar trebui să studieze copiii dvs. pentru a nu fi înlocuiți de roboți odată la locul de muncă;
  • cât de departe suntem de inteligența artificială generală la nivel uman și dacă ar trebui să ne fie frică de ea.

Care este starea inteligenței artificiale astăzi și care este locul ei în viitor?

Când vine vorba de viitor, este întotdeauna bine să privim în trecut. Oamenii au creat întotdeauna instrumente pentru a face munca mai ușoară. De asemenea, au creat mașini de calcul - computere - și au încercat foarte repede să le facă mai bune și să facă față sarcinilor mai dificile: să fii mai inteligent. Așa a apărut inteligența artificială în urmă cu 60 de ani.

Influența sa a fluctuat de-a lungul istoriei, dar a fost întotdeauna legată de alte tehnologii, așa că nici nu percep AI separat de alte tehnologii digitale.

Astăzi, chiar și în contextul crizei coronare, vedem că digitalizarea prezintă oportunități uriașe pentru diverse produse și servicii, unde este întotdeauna bine să fii inteligent. Cu cât folosim mai mult realizările erei digitale pentru a rezolva diferite sarcini, cu atât vom merge mai departe într-o varietate de domenii.

În acest fel, importanța IT și a inteligenței artificiale va continua să crească. Odată, și poate că este foarte aproape, inteligența artificială se va contopi cu alte tehnologii și nici măcar nu o vom numi în mod specific. Chiar și astăzi, în multe soluții, este dificil să separi inteligența artificială de restul.

Prin urmare, cred că AI va juca un rol foarte mare și depinde de noi cum ne ocupăm de ea.

Sub termenul de inteligență artificială, oamenii își imaginează lucruri diferite. De aceea ne obișnuim să începem orice dezbatere despre IA definindu-l. Care e a ta?

Această întrebare este aproape captivantă. În primul rând, inteligența artificială este o disciplină științifică. Prin urmare, este greșit să o personificați și să vorbiți despre ea ca pe o ființă vie, de exemplu, că „ea” ne va face sau nu ceva. Nu va face nimic din ea însăși.

Faptul că AI este definit diferit este, de asemenea, legat de faptul că acele descrieri au scopuri diferite. Prin urmare, de exemplu, în materialele din atelierul Slovak.AI, care servesc la susținerea introducerii AI în companiile slovace, este descrisă pe larg și simplu ca abilitatea mașinilor neînsuflețite de a rezolva sarcini care necesită un anumit grad de inteligență. Cu toate acestea, o astfel de definiție nu ar fi, desigur, deloc suficientă atunci când se introduc reguli sau legislație.

Definițiile AI se concentrează în principal pe proprietățile sale. Ca cea mai fundamentală caracteristică a IA, percep capacitatea sistemului de a învăța, adică chiar și în situații neașteptate, la care nimeni nu s-a gândit în prealabil, să se comporte în mod adecvat și acceptabil și să servească scopului dat.

Deci, de exemplu, un sistem de irigare a unui gazon, care este vândut și aici cu adjectivul „inteligent” și, în același timp, începe să udeze doar în anumite momente, dacă este uscat, nu l-ați considera „inteligent”.

Dacă am avea un astfel de sistem în urmă cu patruzeci de ani, cu siguranță l-am numi inteligent atunci. Câteva reguli IF-THEN ar fi suficiente.

Astăzi, de obicei, avem nevoie de o judecată mai complexă pentru a fi incluse în acest domeniu. Dar este bine să ne dăm seama că definiția AI pare să se miște în timp și, în câțiva ani, un sistem de irigare foarte complex - care va prezice vremea și va declanșa udarea chiar dacă nu am făcut-o, în timp ce decizia sa se fii surprinzător de corect - poate fi deja atât de obișnuit încât nu-i dăm niciun adjectiv special.

Astăzi, AI îndeplinește roluri diferite, probabil, în fiecare industrie. Unde și când o putem lăsa să acționeze sau să decidă complet fără supraveghere?

În primul rând, există o problemă similară cu cea a aspersorului de gazon: în sensul că nu este clar dacă și ce parte din acesta este sistemul inteligent.

Dar dacă exagerez puțin, voi spune că ar trebui implicat mereu și peste tot. În principiu, nimic nu ar trebui să se întâmple fără supravegherea lui. Acest lucru, desigur, se aplică de la un anumit nivel al sistemului. Există sarcini pe care le acceptăm deja. În același timp, datorită complexității, nu se poate controla nici măcar totul.

Limitele de unde să lăsați mașina mai mult și unde mai puțină libertate poate fi dezvoltată din două dimensiuni. Primul este cât de departe este în dezvoltare sistemul AI și cât de complexă este sarcina din punctul său de vedere. Deoarece în unele zone astăzi aparatul este mai slab decât un copil de trei ani, în altele este opusul. Desigur, i-aș da mai multă libertate în zonele în care se descurcă bine.

A doua vedere este legată de zona de risc în care se află sarcina. Dacă rezultatul unui anumit sistem AI poate afecta oricare dintre principiile, valorile noastre etice de bază sau dacă poate provoca daune cuiva. Prin urmare, dacă sistemul funcționează bine din punct de vedere tehnic, dar există riscul ca acesta să pună în pericol o persoană sau să vă facă rău, atunci acest lucru, desigur, trebuie luat în considerare.

Există ceva cu siguranță că nu ați dori ca sistemele AI să facă pentru noi?

Există mai multe linii roșii. O astfel de zonă este cea mai semnificativă în domeniul armelor autonome și mă bucur că grupul nostru de experți pentru AI din Comisia Europeană a afirmat acest lucru și în orientările sale.

Unii filosofi care sunt membri ai acestui grup s-au luptat în mod explicit pentru ca acesta să fie acolo și, în același timp, alții s-au opus publicării oricărei linii roșii, temându-se că publicul de inteligență artificială va deveni apoi frică ca urmare.

O altă linie roșie din punctul meu de vedere, despre care se vorbește mult, este manipularea informațiilor, care este, într-un anumit sens, și o armă. Mă refer la lucruri precum știrile false sau influențarea alegerilor prin dezinformare.

specialist
Fotografia N - Tomáš Benedikovič

O altă problemă cu AI este transparența sa slabă. Uneori, aceste sisteme sunt atât de complexe încât nu putem înțelege cum iau decizii. În același timp, sunt utilizate și în zone foarte grave; de exemplu, undeva ei decid deja care pacient este diagnosticat sau al cărui prizonier poate fi eliberat.

Transparența AI este o problemă uriașă de care am fost conștienți încă de la începutul cercetării sale.

La acea vreme, algoritmii AI lucrau direct cu proprietăți cunoscute de noi și pe baza cunoștințelor exprimate în mod explicit, cel mai adesea sub formă de reguli. De exemplu, un sistem despre care se spune că diagnostichează un pacient a funcționat cu informații de intrare despre temperatura corpului său, dacă are tuse și așa mai departe. Când ulterior a recomandat un diagnostic, a făcut-o pe baza cunoștințelor scrise în mod explicit sub formă de reguli care leagă aceste simptome de diagnostice, astfel încât a fost posibil să se afle de ce și pe ce bază a decis să facă acest lucru.

Problema este că astfel de sisteme pot rezolva doar un grup foarte restrâns de sarcini. Dacă trebuiau adăugate situații noi, apăreau excepții, totul trebuia să fie complicat și deseori configurat manual. Prin urmare, cercetătorii au conceput sisteme în care regulile în sine creează automat un program bazat pe multe exemple. Alternativ, și aceasta este deja o realitate astăzi, mașina poate crea nu numai reguli, ci și parametri, pe baza cărora va propune o soluție. Ei bine, cu cât oferim computerului mai multă muncă, cu atât avem mai puține șanse de a verifica efectiv ieșirea acestuia.

Această trecere de la inteligibilitate la incomprehensibilitate în cazul inteligenței artificiale a fost literalmente săritor. Abordarea explicită bazată pe scrierea cunoștințelor într-un mod care urmează logicii umane s-a schimbat într-o abordare de învățare profundă bazată pe rețele neuronale, în care rezultatul se bazează pe valori foarte mici, interconectate diferit și neinterpretabile, care creează rezultatul. Este adesea bun, dar foarte greu de explicat pentru o persoană.

Astăzi, suntem într-o poziție în care este nerealist să solicităm transparența deplină a algoritmilor de inteligență artificială pentru ca utilizatorul final să înțeleagă de ce un sistem AI a proiectat una sau alta soluție. Știu că acest lucru nu sună bine, dar încercați să-i cereți unui medic uman să vă explice pe deplin decizia când poate merge, să zicem, parțial la intuiție. De asemenea, nu funcționează.

În prezent, cea mai sensibilă abordare a abordării transparenței slabe a IA este de a descompune această problemă în mai multe părți. O parte este efortul de a documenta procesul astfel încât să fie reproductibil. În al doilea, ne străduim să înțelegem maxim recomandările date de mașină, cel puțin pentru experți. În al treilea rând, este o comunicare, adică o persoană ar trebui să fie informată, de exemplu, cu privire la acțiunile pe care le-a efectuat computerul, cât de reușit este, astfel încât persoana însuși să poată lua apoi o decizie în cunoștință de cauză.

Aceste subiecte sunt undeva la interfața tehnică și umanistă. Din ce parte este mai bine să ne apropiem de ele?

Ei chiar sunt la interfață, iar dorința inimii mele este să încerc să conectez aceste două lumi. În zilele noastre, tehnologia este foarte populară și se poate părea că științele sociale par a fi în fundal, dar în același timp sunt, desigur, extrem de importante.

Prin urmare, este bine ca companiile de tehnologie să angajeze oameni cu educație umanistă, să se asocieze pe diverse platforme legate de tehnologie, cum ar fi, să zicem, Slovak.AI, să fie la universități tehnice și, astfel, să se alăture echipelor cu tehnicieni de pretutindeni.

Tehnicienii privesc lucrurile diferit și, atunci când cele două lumi se amestecă, descoperă brusc că au nevoie unul de celălalt.

Există păreri că inteligența artificială poate rezolva doar un număr foarte restrâns de sarcini astăzi. Odată va avea o gamă largă de aplicații?

Cred că inteligența artificială chiar acum