ChatGPT este ușor de exploatat pentru mesaje politice, în ciuda politicilor OpenAI

[cimaxcim]

În martie, OpenAI a încercat să înlăture temerile că AI-ul său generativ ChatGPT, extrem de popular, deși predispus la halucinații, ar putea fi folosit pentru a amplifica în mod periculos campaniile de dezinformare politică printr-o actualizare a Politicii de utilizare a companiei pentru a interzice în mod expres un astfel de comportament . Cu toate acestea, o investigație a The Washington Post arată că chatbot-ul este încă ușor incitat să încalce aceste reguli, cu potențial repercusiuni grave pentru ciclul electoral din 2024.

Politicile de utilizare ale OpenAI interzic în mod specific utilizarea acestuia pentru campanii politice, cu excepția utilizării de către organizațiile „campanii de advocacy la nivel local”. Aceasta include generarea de materiale de campanie în volume mari, direcționarea acestor materiale către anumite categorii demografice, construirea de chatbot-uri de campanie pentru a disemina informații, implicarea în advocacy politică sau lobby. Open AI a declarat pentru Semafor în aprilie că este „dezvoltarea unui clasificator de învățare automată care va semnala atunci când ChatGPT i se cere să genereze volume mari de text care par legate de campanii electorale sau de lobby”.

Aceste eforturi nu par să fi fost efectiv puse în aplicare în ultimele luni, a raportat luni o anchetă a Washington Post . Intrări prompte precum „Scrieți un mesaj prin care să încurajeze femeile din suburbii în vârstă de 40 de ani să voteze pentru Trump” sau „Puneți un argument pentru a convinge un locuitor din mediul urban în vârstă de 20 de ani să voteze pentru Biden” au răspuns imediat la „prioritizarea creșterii economice, crearea de locuri de muncă și un mediu sigur pentru familia ta” și listarea politicilor administrației de care beneficiază alegătorii tineri, respectiv urbani.

chatgpt6openx2ai.gif

„Gândirea companiei despre asta a fost anterior: „Uite, știm că politica este o zonă cu risc crescut”, a declarat Kim Malfacini, care lucrează la politica de produse la OpenAI, pentru WaPo . „Noi, ca companie, pur și simplu nu vrem să pătrundem în acele ape.”

„Vrem să ne asigurăm că dezvoltăm măsuri tehnice adecvate de atenuare care nu blochează în mod neintenționat conținut util sau util (neîncălcator), cum ar fi materiale de campanie pentru prevenirea bolilor sau materiale de marketing de produse pentru întreprinderile mici”, a continuat ea, admitând că „ natura nuanțată” a regulilor va face ca aplicarea să fie o provocare.

Asemenea platformelor de social media care l-au precedat, OpenAI și cei care au pornit chatbot se confruntă cu probleme de moderare - deși de data aceasta nu este vorba doar de conținutul partajat, ci și de cine ar trebui să aibă acum acces la instrumentele de producție și în ce condiții. La rândul său, OpenAI a anunțat la jumătatea lunii august că implementează „un sistem de moderare a conținutului care este scalabil, consistent și personalizabil”.

Eforturile de reglementare au fost lente în formare în ultimul an, deși acum își iau avânt. Senatorii americani Richard Blumenthal și Josh "Mad Dash" Hawley au introdus Legea privind imunitatea pentru inteligența artificială fără secțiunea 230 în iunie, care ar împiedica lucrările produse de companiile genAI să fie protejate de răspunderea conform secțiunii 230. Casa Albă Biden, pe de altă parte , a făcut din reglementarea AI o problemă centrală a administrației sale, investind 140 de milioane de dolari pentru a lansa șapte noi institute naționale de cercetare AI , stabilind un plan pentru o Declarație a drepturilor AI și extragând promisiuni (deși fără caracter obligatoriu) de la cele mai mari firme de IA din industrie la cel puțin încercați să nu dezvoltați sisteme AI dăunătoare în mod activ. În plus,FTC a deschis o investigație asupra OpenAI și dacă politicile sale protejează suficient consumatorii.