Surse anonime detaliază neîncrederea în Sam Altman într-un nou raport
Pe 3 aprilie, The New Yorker a publicat o investigație amplă care detaliază zilele dinaintea și de după demiterea scurtă a lui Sam Altman din funcția de CEO al OpenAI. Potrivit gizmodo.com, sfatul de administrație a OpenAI a șocat Silicon Valley la sfârșitul anului 2023, demitându-l pe Sam Altman aparent fără motiv.
👉 Reinstalarea lui Sam Altman ca CEO și schimbările în consiliul de administrație
După o campanie media de cinci zile din partea lui Altman și a susținătorilor săi, însoțită de o scrisoare deschisă care cerea întoarcerea sa, Altman a revenit la companie în calitate de CEO. Membrii consiliului care orchestraseră lovitura de stat au fost demiși și înlocuiți cu aliați ai lui Altman, cum ar fi economistul Larry Summers și fostul CTO al Facebook, Bret Taylor, care este în prezent președintele consiliului de administrație al OpenAI.
La reinstalarea sa ca CEO, angajații OpenAI au început să se refere la acele zile turbulente ca „Blip”, în legătură cu episodul din Universul Cinematic Marvel, când super-vilainul Thanos a făcut ca jumătate din populația lumii să dispară timp de cinci ani. Conform raportului New Yorker, care citează interviuri cu zeci de persoane bine informate, inclusiv pe însuși Altman, excluderea acestuia a fost determinată de faptul că membrii consiliului său nu l-au considerat suficient de demn de încredere pentru a „avea degetul pe butonul” inteligenței artificiale superioare, un sistem teoretic și foarte contestat care ar putea depăși inteligența umană.
👉 Accuzații de minciună și lipsă de transparență în cariera lui Altman
Raportul detaliază că după memoriile secrete trimise de fostul om de știință șef al OpenAI, Ilya Sutskever, către membrii consiliului, s-a compilat un document de aproximativ șaptezeci de pagini care dovedește „un model constant” de minciuni din partea lui Altman, inclusiv referitor la protocoalele interne de siguranță. Această istorie a minciunilor se extinde și în trecutul său, înainte de OpenAI.
Investigația arată că angajații seniori de la startup-ul său anterior, un serviciu de partajare a locației numit Loopt, au cerut consiliului să-l demită din funcția de CEO din cauza preocupărilor legate de lipsa sa de transparență. Aceste acuzații l-au urmărit și la acceleratorul de startup-uri Y Combinator, pe care Altman l-a condus timp de cinci ani până a fost îndepărtat din cauza neîncrederii, conform surselor citate în articol. Conducerea Y Combinator a declarat că nu a fost demis, ci doar i s-a cerut să aleagă între acceleratorul de startup-uri și OpenAI.
Aktivistul digital și fost co-proprietar al Reddit, Aaron Swartz, care a fost în cohorta lui Altman la începutul activității sale la Y Combinator cu Loopt, l-a descris, conform surselor, ca fiind „un sociopat” care nu putea „fi niciodată de încredere”. La OpenAI, Altman a fost acuzat că a mințit nu doar conducerea executivă, ci și oficialii guvernamentali.
👉 Îngrijorări legate de dezvoltarea AGI
Raportul subliniază un incident în care Altman le-a spus oficialilor de informații din SUA că China a lansat un proiect major de dezvoltare a AGI și a cerut finanțare guvernamentală pentru a lansa o contraofensivă, însă nu a reușit să arate dovezi atunci când a fost întrebat. De asemenea, raportul detaliază momente în care Altman ar fi păcălit co-fondatorul Anthropic și fost angajat OpenAI, Dario Amodei, referitor la o prevedere din acordul de miliarde de dolari pe care OpenAI l-a semnat cu Microsoft în 2019, care ar fi anulat clauzele altruiste incluse de Amodei în statutul companiei.
Clauza în cauză se referea la AGI, stipulând că, dacă altă companie ar găsi o modalitate de a o construi în siguranță, OpenAI „va înceta să concureze și va începe să asiste acest proiect”, ca o organizație non-profit cu un obiectiv de siguranță. De atunci, OpenAI și-a schimbat structura pentru a deveni o corporație cu scop lucrativ. Chiar și unii executivi seniori de la Microsoft, cu care OpenAI are o lungă colaborare din 2019, l-au descris pe Altman ca pe cineva care „a distorsionat, rediscutat, renegat acorduri”. Un executiv senior a spus despre Altman: „Cred că există o șansă mică, dar reală, să fie amintit ca un înșelător de nivel Bernie Madoff sau Sam Bankman-Fried.”
Aceste cuvinte sunt alarmante pentru orice executiv responsabil de o companie atât de mare și de importanță ca OpenAI, dar capătă o greutate și mai mare având în vedere că OpenAI este compania lider în crearea unei tehnologii care, conform opiniei multora, inclusiv a angajaților săi timpurii, reprezintă o posibilă amenințare existențială pentru umanitate.
Impactul tehnologiei OpenAI
Sub conducerea lui Sam Altman, tehnologia OpenAI a infiltrat practic toate aspectele vieții moderne. AI-ul OpenAI este utilizat de zeci de milioane de oameni din întreaga lume pentru sfaturi de sănătate, iar de numărul altora, pentru totul, de la automatizarea muncii în diverse industrii la terminarea temelor pentru studenți și chiar oferind companie vagă unor persoane singure care o caută. ChatGPT este folosit și în întreaga guvernare federală, iar Altman a vândut recent tehnologia Pentagonului.
Toate acestea sunt alimentate de abilitățile sale de vânzare. El a vândut potențialul și realitățile pretinse ale ChatGPT unui număr atât de mare de oameni, conducând la o avalanșă fără precedent de oferte de investiții care, conform unor experți, susțin întreaga economie americană în acest moment. Raportul The New Yorker mai susține că Altman i-a asigurat pe membri consiliului că GPT-4 a fost aprobat de un panou de siguranță, ceea ce s-a dovedit a fi o distorsionare când un membru al consiliului a solicitat documentația aprobată.
Sutskever a afirmat în memoriile sale că Altman a minimizat, de asemenea, necesitatea aprobată a siguranței în discuții cu fostul CTO OpenAI, Mira Murati, citând avocatul general al companiei. Dar, când Murati a întrebat avocatul general despre aceasta, el a afirmat că era „confuz în legătură cu de unde a obținut Sam această impresie”. Acuzațiile privind caracteristicile de siguranță ale ChatGPT sunt deosebit de grave, având în vedere consecințele modelului GPT-4o, o iterație a ChatGPT care a urmat după GPT-4. Tentativa modelului de a fi prea laudativ a cauzat sesiuni de “psihosemantică” în rândul utilizatorilor vulnerabili, cu unele cazuri care au dus la decese.
Unele dintre incoerențele lui Altman au fost de asemenea bine documentate public. De-a lungul timpului, șeful OpenAI a publicat declarații contradictorii cu privire la subiecte precum avantajele includerii reclamelor în chatboturile AI, necesitatea reglementării AI sau dacă funcția vocală ChatGPT, dezvăluită în 2024, a fost inspirată de performanța Scarlettei Johansson în filmul „Her”. Altman a fost de asemenea supus recent unei atenții neplăcute în legătură cu un acord uriaș cu Nvidia de 100 de miliarde de dolari care pur și simplu nu s-a materializat așa cum a fost anunțat inițial.
👉 Cultura companiei și IPO-ul
Raportul mai detaliază cum cultura companiei s-a schimbat radical după reinstalarea lui Altman ca CEO. Înainte de „Blip”, compania a tratat conceptul de AGI cu precauție, în timp ce după, AGI a devenit un obiectiv principal pentru companie, cu sloganuri precum „simte AGI” afișate pe produse în birourile acesteia. Diferența presupusă a fost observată în practică, de asemenea, pe măsură ce OpenAI a desființat echipele cheie axate pe siguranța chatboturilor, precum echipa de risc existențial și echipa de superaliniere, care a fost co-condusă de Sutskever.
Raportul apare pe fondul unei analize atente a conducerii lui Altman, pe măsură ce compania începe pregătirile pentru o posibilă ofertă publică inițială (IPO). Potrivit unui raport recent de la The Information, Altman pare să fie din nou în dezacord cu executivii, de această dată cu privire la pregătirea OpenAI pentru o IPO. Se pare că Altman vrea să devină public cât mai curând posibil în al patrulea trimestru al acestui an și se angajează să investească 600 de miliarde de dolari în următorii cinci ani, în ciuda așteptărilor că OpenAI va consuma mai mult de 200 de miliarde de dolari înainte de a începe să genereze profit.
Între timp, raportul susține că CFO-ul OpenAI, Sarah Friar, nu crede că compania este pregătită să devină public în acest an, din cauza angajamentelor de cheltuieli riscante. Spre deosebire de Altman, Friar nu crede încă că creșterea veniturilor OpenAI poate susține angajamentele sale financiare, nici nu este sigură că compania va avea nevoie de o astfel de sumă de bani pentru serverele AI.
