Secretul tulburător al inteligenței artificiale a fost dezvăluit de un lider tehnologic: „Nimeni nu înțelege cu adevărat”

• Dario Amodei este un cercetător și antreprenor american în domeniul inteligenței artificiale . Este co-fondatorul și CEO-ul Anthropic, compania din spatele seriei de modele lingvistice Claude AI. Anterior, a fost vicepreședinte de cercetare la OpenAI.

„Sistemele moderne de IA operează fundamental diferit față de software-ul tradițional”

Cred că majoritatea oamenilor subestimează cât de radicale ar putea fi avantajele IA, la fel cum cred că majoritatea oamenilor subestimează cât de grave ar putea fi riscurile.

Directorul executiv al Anthropic, Dario Amodei, avertizează că „nimeni nu înțelege cu adevărat cum funcționează inteligența artificială (IA)”.

În eseul publicat pe site-ul său personal, Amodei afirmă că „sistemele moderne de IA operează fundamental diferit față de software-ul tradițional”.

„Când un sistem de IA generativă efectuează o sarcină, cum ar fi rezumarea unui document financiar, nu avem idee, la un nivel specific sau precis, de ce ia deciziile pe care le ia: de ce alege anumite cuvinte în detrimentul altora, sau de ce face ocazional o greșeală în ciuda faptului că este în general precis”, explică Amodei.

Recomandări

Amalia Nicola, scriitoare și mamă de copil cu dizabilități: „Fiul meu a fost mort câteva minute. Și și-a revenit. Nu mă mai sperie nimic”

Compară sistemele de IA cu organismele vii

Cercetătorul compară sistemele de IA cu organismele vii, explicând că „dezvoltarea lor este imprevizibilă și dificil de înțeles”.Această caracteristică diferențiază fundamental IA modernă de software-ul convențional.

CEO-ul Anthropic subliniază: „Este un pic ca și cum ai cultiva o plantă sau o colonie bacteriană: stabilim condițiile de nivel înalt care direcționează și modelează creșterea, dar structura exactă care apare este imprevizibilă și dificil de înțeles sau explicat”.

„Merităm să înțelegem propriile noastre creații înainte ca acestea să ne transforme radical viețile și viitorul”

Pentru a aborda aceste provocări, Anthropic își propune să dezvolte o „rezonanță magnetică pentru IA” în următorul deceniu. Acest proiect ambițios vizează crearea de instrumente pentru examinarea funcționării interne a modelelor și diagnosticarea problemelor potențiale înainte de implementare.

Amodei recunoaște că există o competiție între avansul interpretabilității și dezvoltarea unor modele tot mai puternice.

Recomandări

Tudor Pendiuc și afaceriștii din jurul lui cer revizuirea condamnărilor din Dosarul Publitrans: „Prejudiciul de 23 de milioane de lei nu există”

El avertizează că IA însăși avansează atât de rapid încât ar putea să nu avem suficient timp pentru a dezvolta aceste instrumente.

În concluzie, CEO-ul Anthropic face un apel la cercetători, companii, guverne și societate pentru a accelera dezvoltarea „tehnicilor de interpretabilitate”.

IA va modela destinul umanității și merităm să înțelegem propriile noastre creații înainte ca acestea să ne transforme radical viețile și viitorul.