CEO-ul Anthropic emite un avertisment grav privind IA. Iată ce greșește.
Într-un nou eseu de 38 de pagini publicat pe site-ul său personal, CEO-ul și cofondatorul Anthropic, Dario Amodei, face un apel pentru acțiune urgentă în fața riscurilor IA super-inteligente. Amodei scrie că acest tip de IA auto-îmbunătățită ar putea fi la doar unul sau doi ani distanță — și avertizează că riscurile includ făcerea omenirii sclav și „distrugerea în masă”. Eseul, intitulat „Adolescența tehnologiei”, abordează riscurile IA cunoscute și necunoscute, potrivit mashable.com.
👉 Riscurile și intervențiile propuse pentru inteligența artificială
CEO-ul discută pe larg despre potențialul bioterrorismului generat de IA, armele drone controlate de IA malefice și despre cum IA ar putea să facă muncitorii umani obsolescenți la scară societală. Pentru a aborda aceste riscuri, Amodei sugerează o varietate de intervenții — de la autoreglementare în cadrul industriei IA până la modificarea Constituției Statelor Unite.
👉 Critica antropomorfizării inteligenței artificiale
Eseul lui Amodei este gândit și bine documentat. Totuși, acesta comite și păcatul capital al scrierii despre IA — nu se poate abține să nu antropomorfizeze IA. Trăind ca și cum produsul său ar fi o ființă conștientă și vie, Amodei cade în capcana pe care o avertizează că o există.
Atunci când, în același timp, New York Times a publicat o investigație majoră despre „psihoza IA”, un termen cuprinzător fără o definiție medicală precisă, el se referă la o gamă largă de probleme de sănătate mintală exacerbate de chatbot-uri IA precum ChatGPT sau Claude. Aceste probleme pot include iluzii, paranoia sau o rupere totală de realitate.
„Cu toate acestea, când un vânzător de IA îți spune că IA este o tehnologie de schimbare a lumii, de neînduplecat, la fel ca revoluția agricolă... ar trebui să tratezi această predicție ca pe ce este: o campanie de vânzări”. Aceste cazuri au adesea un lucru în comun: o persoană vulnerabilă petrece atât de mult timp vorbind cu un chatbot IA, încât începe să creadă că chatbot-ul este viu.
Modelele de Limbaj Mari (LLMs) care alimentează platforme precum ChatGPT pot produce o imitație foarte convingătoare a conversației umane, iar în timp, utilizatorii pot dezvolta o dependență emoțională față de chatbot. Când petreci prea mult timp vorbind cu o mașină programată să sune empatic — și când acea mașină este mereu prezentă și optimizată pentru angajament — este foarte ușor să uiți că nu există nicio minte la lucru în spatele ecranului.
LLMs sunt motoare puternice de predicție a cuvintelor, dar nu au o conștiință, sentimente sau empatie. Citind „Adolescența tehnologiei”, m-am întrebat dacă Amodei a legat prea multe emoții de propria sa mașină. Amodei este responsabil pentru crearea unuia dintre cele mai puternice chatbot-uri din lume. Fără îndoială că a petrecut nenumărate ore folosind Claude, vorbind cu el, testându-l și îmbunătățindu-l. A început și el să vadă un zeu în mașină?
Eseul descrie chatbot-urile IA ca fiind „psihologic complexe”. Vorbește despre IA ca și cum ar avea motive și scopuri proprii. Își descrie modelele existente ca având un sentiment puternic de „identitate de sine” ca „persoană bună”. Pe scurt, el antropomorfizează IA generativă — și nu doar o formă viitoare super-inteligentă de IA, ci IA bazată pe LLM-uri de astăzi.
Atât de mult din conversația despre pericolele IA este trasă direct din science fiction, ceea ce Amodei admite — și totuși este și el vinovat de aceeași extindere. Eseul se deschide cu o secțiune intitulată „Evitarea doomismului”, unde Amodei critică vocile „cele mai puțin sensibile” și cele „senzaționaliste” care discută despre riscurile IA. „Aceste voci foloseau un limbaj respingător, asemănător religiei sau science fiction-ului”, scrie el.
Cu toate acestea, eseul lui Amodei evocă și el repetat science fiction. Și în ceea ce privește religia, pare să aibă o credință asemănătoare unei ceea ce crede că superinteligentă IA este iminentă. Oprește-mă dacă ai auzit asta înainte: „Nu poate fi decât câțiva ani înainte ca IA să fie mai bună decât oamenii la esențial totul. De fapt, această imagine probabil că subestimează rata probabilă de progres.”