Pe 26 octombrie 2023, Secretarul general al Națiunilor Unite, António Guterres, a anunțat crearea unui nou organism consultativ pentru inteligența artificială (AI) pentru a sprijini eforturile comunității internaționale de a guverna AI (https://news.un.org/fr/story/2023/10/1140052): „AI poate ajuta la inversarea progresului în ceea ce privește obiectivele cheie de dezvoltare – dar toate acestea depind de exploatarea responsabilă a tehnologiilor AI de către toți, inclusiv țările în curs de dezvoltare, care trebuie să accelereze dezvoltarea durabilă”, a declarat domnul Guterres.
„Distribuirea pe scară largă a acestor tehnologii, fără a ține cont de siguranță și securitate, ridică și îngrijorări cu privire la integritatea informațiilor și democrație. Acesta este motivul pentru care am decis să se organizeze o conversație globală, multidisciplinară și cu mai multe părți interesate despre riscurile și provocările, oportunitățile și guvernarea AI”, a mai menționat Secertarul general al ONU.
Crearea Comitetului consultativ pentru AI marchează un pas important în eforturile Națiunilor Unite de a aborda problemele internaționale de guvernare a IA. Noua inițiativă va promova o abordare incluzivă la nivel global, bazându-se pe puterea unică de convocare a ONU ca forum universal și incluziv pentru provocările critice.
Comitetului Consultativ pentru AI reunește experți din guverne, sectorul privat, comunitatea științifică, societatea civilă și mediul academic, iar apartenența globală, echilibrată de gen și interdisciplinară a organismului îl va ajuta să joace un rol unic în a ajuta AI să lucreze pentru Umanitate.
Sarcinile imediate ale organismului includ construirea unui consens științific global cu privire la riscuri și provocări, ajutând la valorificarea inteligenței artificiale pentru a atinge Obiectivele de dezvoltare durabilă și întărirea cooperării internaționale în ceea ce privește guvernarea AI.
Organismul ajută la conectarea altor inițiative existente și emergente privind guvernarea AI și publică recomandări preliminare până la sfârșitul anului 2023, cu recomandări finale până în vara anului 2024, înainte de Summit-ul viitorului, care va fi organizat atunci sub auspiciile ONU. Prima ședință a comitetului a avut loc pe 27 octombrie 2023.
Lista membrilor Comitetului Consultativ pentru AI
• Anna Abramova, Director al Institutului de Stat de Relații Internaționale din Moscova (MGIMO) – AI Academic Center, Federația Rusă;
• Omar Sultan Al Olama, Ministrul de Stat al Inteligenței Artificiale din Emiratele Arabe Unite;
• Latifa Al-Abdulkarim, membru al Consiliului Shura (Parlamentul Saudit), profesor asistent de informatică la Universitatea King Saud, Arabia Saudită;
• Estela Aranha, Consilier Special al Ministrului Justiției și Securității Publice, Guvernul Federal al Braziliei;
• Carme Artigas, secretar de stat pentru digitalizare și inteligență artificială al Spaniei;
• Ran Balicer, Chief Inovation Officer și CEO adjunct al Clalit Health Services Israel;
• Paolo Benanti, franciscan obișnuit al Ordinului al III-lea, lector la Universitatea Pontificală Gregoriană, Italia;
• Abeba Birhane, Senior AI Accountability Advisor la Fundația Mozilla, Etiopia;
• Ian Bremmer, Președinte și Fondator al Grupului Eurasia, SUA;
• Anna Christmann, Coordonator Aerospațial al Guvernului Federal German, Germania;
• Natasha Crampton, Director AI la Microsoft, Noua Zeelandă;
• Nighat Dad, director executiv al Digital Rights Foundation Pakistan;
• Vilas Dhar, Președintele Fundației Patrick J. McGovern, Statele Unite;
• Virginia Dignum, profesor responsabil de inteligență artificială la Universitatea Umeå, Portugalia/Țările de Jos;
• Arisa Ema, profesor asociat la Universitatea din Tokyo, Japonia;
• Mohamed Farahat, consultant juridic și vicepreședinte al MAG al IGF Africa de Nord, Egipt;
• Amandeep Singh Gill, trimisul secretarului general pentru tehnologie;
• Dame Wendy Hall, Profesor Regius de Informatică la Universitatea din Southampton, Marea Britanie;
• Rahaf Harfoush, antropolog digital, Franța;
• Hiroaki Kitano, Chief Technology Officer al Sony Group Corporation, Japonia;
• Haksoo Ko, Președintele Comisiei pentru Protecția Informațiilor Personale (PIPC) din Republica Coreea;
• Andreas Krause, profesor la ETH Zurich, Elveția;
• James Manyika, vicepreședinte senior al Google-Alphabet, președinte pentru cercetare, tehnologie și societate, Zimbabwe;
• Maria Vanina Martinez Posse, Ramon y Cajal Fellow la Institutul de Cercetare Artificială (IIIA-CSIC), Argentina;
• Seydina Moussa Ndiaye, lector la Universitatea Digitală Cheikh Hamidou Kane, Senegal;
• Mira Murati, CTO OpenAI, Albania;
• Petri Myllymaki, profesor titular la Departamentul de Informatică de la Universitatea din Helsinki, Finlanda;
• Alondra Nelson, profesor Harold F. Linder la Institutul pentru Studii Avansate, Statele Unite;
• Nazneen Rajani, cercetător senior la Hugging Face, India;
• Craig Ramlal, lider al grupului de sisteme de control la Universitatea West Indies din St. Augustine, Trinidad și Tobago;
• He Ruimin, director de inteligență artificială și director adjunct de tehnologie digitală, Guvernul din Singapore;
• Emma Ruttkamp-Bloem, profesor la Universitatea din Pretoria, Africa de Sud;
• Sharad Sharma, co-fondator al Fundației iSPIRT, India;
• Marietje Schaake, director de politici internaționale la Cyber Policy Center de la Universitatea Stanford, Țările de Jos;
• Jaan Tallinn, co-fondator al Centrului Cambridge pentru Studiul Riscului Existențial, Estonia;
• Philip Thigo, consilier al Guvernului Kenyei;
• Jimena Sofia Viveros Alvarez, șef de cabinet și consilier juridic șef al judecătorului Loretta Ortiz la Curtea Supremă din Mexic;
• Yi Zeng, profesor și director al Laboratorului AI cognitiv inspirat de creier, Academia Chineză de Științe, China;
• Zhang Linghan, profesor la Institutul de Drept al Datelor, Universitatea de Științe Politice și Drept, China.
Marea Britanie. Primul summit global privind AI și primul institut de siguranță a inteligenței artificiale din lume
Pe 26 octombrie 2023, la summitul global organizat în Marea Britanie privind siguranța utilizării inteligenței artificiale (IA) – „AI Safty Summit”, prim-ministrul Marii Britanii, Rishi Sunak, a avertizat despre riscurile IA, spunând că aceasta ”va aduce o transformare la fel de largă ca revoluţia industrială, apariţia electricităţii sau naşterea internetului”, în timp ce a adăugat că există riscuri asociate IA, care ”ar putea facilita construirea de arme chimice sau biologice, iar criminalii ar putea exploata tehnologia. În cele mai improbabile, dar extreme cazuri, există chiar riscul ca Omenirea să piardă complet controlul asupra IA prin intermediul tipului de inteligenţă artificială numit super inteligenţă” (https://www.stiripesurse.ro/premierul-britanic-avertizeaza-inteligenta-artificiala-poate-scapa-de-sub-control_3121419.html).
Avertismentul lui Rishi Sunak a fost enunțat la lansarea raportului numit „Capabilităţi şi riscuri ale AI de frontieră”, realizat sub auspiciile guvernului britanic, care explică AI de frontieră ca „modele AI de uz general de mare capacitate, care pot îndeplini o mare varietate de sarcini şi pot potrivi sau depăşi capacităţile prezente în cele mai avansate modele de astăzi”.
Această definiţie include unele dintre modelele mari de limbaj, care stau la baza aplicaţiilor, cum ar fi ChatGPT de la OpenAI şi chatbot Bard de la Google.
Cu acest prilej, Rishi Sunak a anunţat că Regatul Unit înfiinţează primul Institut de studiere a siguranţei AI din lume, pentru a evalua şi testa noi tipuri de AI pentru a-i înţelege riscurile.
De asemenea, Marea Britanie a propus înfiinţarea sub auspiciile ONU, a unui Comitet consultativ pentru AI, cu experți desemnați de ţările şi organizaţiile care studiază AI, cele mai importante din toate țările lumii, pentru a publica un ”Raport privind starea ştiinţei despre AI”.
SUA şi China sunt considerate în general cei doi lideri importanți în IA, deoarece găzduiesc unele dintre companiile lidere ale acestui domeniu din lume.
Regatul Unit are câteva firme notabile de inteligenţă artificială, cum ar fi DeepMind, deţinută de Alphabet, precum şi universităţi puternice orientate spre tehnologie, iar Marea Britanie este văzută ca un al treilea gigant în AI, care vine din urmă puternic, alături de China şi SUA.
„AI Safty Summit” s-a încheiat pe 3 noiembrie 2023, cu o discuție între premierul britanic Rishi Sunak și miliardarul american Elon Musk, una dintre personalitățile care au participat la lucrările summitului alături de șefii de la OpenAI, Meta, Google și DeepMind, împreună cu lideri din 27 de state.
Discuția dintre cei doi care a durat aproape o oră a fost unul dintre evenimentele principale ale summitului (https://cursdeguvernare.ro/elon-musk-in-viitor-nu-va-mai-fi-nevoie-locuri-munca.html): conversația lor a atins aproape toate subiectele, de la riscurile generate de AI în China, dar și în alte țări ale lumii.
Elon Musk a comparat tehnologia AI, aflată la începuturile sale cu un „duh magic. Este oarecum problema duhului magic, unde ai un Aladin ieșit din lampă care poate îndeplini toate dorințele, de obicei acele povești nu se termină bine. Ai grija ce îți dorești”.
Elon Musk și Rishi Sunak au menționat că acești roboți inteligenți au nevoie de un „comutator” fizic și au făcut paralele cu filme științifico-fantastice, precum ”The Terminator”. Musk a comentat: „Este și bine și rău.
Una dintre provocările din viitor va fi cum găsim sensul vieții dacă ai un duh magic care poate îndeplini tot ce vrei?”…
Acest lucru a fost adus în discuție după ce guvernele și companiile de inteligență artificială au ajuns la un acord pentru a pune noile modele de AI la o testare oficială înainte de lansarea lor pe piață, pe care Rishi Sunak l-a numit „acord de referință”.
Cei doi au vorbit despre faptul că Londra este un centru de vârf pentru industria AI și despre modul în care această tehnologie ar putea transforma învățarea.
În timpul discuției, Rishi Sunak a recunoscut „anxietatea” oamenilor cu privire la pierderea locurilor de muncă, iar cei doi au căzut de acord asupra necesității unui „arbitru” care să supravegheze supercomputerele viitorului.
Miliardarul și inventatorul Elon Musk a investit bani mulți în firme de inteligență artificială și a folosit această tehnologie la mașinile sale Tesla fără șofer, dar și-a exprimat în mod oficial temerile că aceasta ar putea amenința societatea și însăși existența umană.
El a avertizat, de asemenea, cu privire la roboții umanoizi, care „te pot urmări oriunde. Există o preocupare în ceea ce privește siguranța, în special în cazul roboților umanoizi – cel puțin o mașină nu te poate urmări într-o clădire sau într-un copac”, a declarat el în fața audienței.
Întrebat despre impactul AI asupra pieței muncii, Musk a numit-o cea mai mare „forță perturbatoare din Istorie” și a spus că tehnologia va fi mai inteligentă decât cel mai inteligent om: „Va veni un moment în care nu va mai fi nevoie să ai un loc de muncă.
Poți avea un loc de muncă doar dacă vrei să ai un loc de muncă pentru satisfacție personală, dar AI va putea face totul. Este atât de bine, cât și de rău – una dintre provocările viitorului va fi cum găsim sensul vieții. Nu știu dacă aceasta este confortabil sau inconfortabil pentru oameni”.
Elon Musk a comentat și despre participarea Chinei la summit, spunând că prezența ei este „esențială, dacă nu ar participa, nu ar avea rost summitul. Dacă Statele Unite, Marea Britanie și China sunt de acord în ceea ce privește siguranța, atunci aceasta va fi un lucru bun, deoarece acolo este în general avansul tehnologic”.
În 2023, SUA și China s-au angajat într-o cursă umăr la umăr pentru dezvoltarea și implementarea celor mai avansate sisteme de AI.
Când Sunak l-a întrebat pe Musk ce crede că ar trebui să facă guvernele pentru a reduce riscul, Musk a spus: „În general, cred că este bine ca guvernul să joace un rol atunci când siguranța publică este în pericol; pentru marea majoritate a software-ului, siguranța publică nu este în pericol. Dar când vorbim despre super-inteligența digitală, care reprezintă un risc pentru public, atunci guvernul trebuie să joace un rol pentru a proteja comunitatea”.
Evenimentul a avut loc în fața unor invitați din industria tehnologică, într-o sală somptuoasă din Lancaster House din centrul Londrei.
În mod neobișnuit, pentru un eveniment în care a fost implicat premierul britanic, camerele de televiziune nu au fost lăsate înăuntru, Downing Street a difuzat în schimb propriile imagini.
Unii reporteri au fost lăsați să participe, dar li s-a cerut să nu pună întrebări. Cei doi au discutat și despre beneficiile potențiale ale inteligenței artificiale, iar Musk a declarat: „Unul dintre fiii mei are probleme în a-și face prieteni, iar un prieten AI ar fi grozav pentru el”; Musk a fost de acord cu privire la posibilitățile pe care le prezintă AI pentru învățarea tinerilor și a spus că AI ar putea fi „cel mai bun și mai răbdător tutore”.
Emilian M. Dobrescu
Foto: Gerd Altmann/Pixabay
Adauga un comentariu