Centrul pentru Inteligență Artificială și Politică Digitală (CAIDP) a depus o plângere la Comisia Federală pentru Comerț (FTC) din SUA în încercarea de a opri lansarea de sisteme AI puternice pentru consumatori.
Plângerea sa concentrat pe modelul de limbă mare lansat recent de OpenAI, GPT-4, pe care CAIDP descrie ca „părtinitoare, înșelătoare și un risc pentru confidențialitate și siguranța publică” în plângerea sa din 30 martie.
CAIDP, o organizație independentă de cercetare nonprofit, a susținut că lansarea comercială a GPT-4 viola Secțiunea 5 din Legea FTC, care interzice „actele sau practicile neloiale sau înșelătoare în sau care afectează comerțul”.
Pentru a-și susține cazul, a subliniat organizația de etică a AI conţinut pe cardul de sistem GPT-4, care indică:
„Am descoperit că modelul are potențialul de a consolida și de a reproduce anumite părtiniri și viziuni asupra lumii, inclusiv asocieri stereotipe și înjositoare dăunătoare anumitor grupuri marginalizate.”
În aceeași lucrare, el a afirmat: „Sistemele AI vor avea un potențial și mai mare de a consolida ideologii, viziuni asupra lumii, adevăruri și minciuni întregi și să le cimenteze sau să le blocheze, prevenind contestările, reflecția și îmbunătățirea ulterioară”.
CAIDP a adăugat că OpenAI a lansat GPT-4 pentru public pentru uz comercial, cu o cunoaștere deplină a acestor riscuri și că nu a fost efectuată nicio evaluare independentă a GPT-4 înainte de lansarea sa.
Ca rezultat, CAIDP dorește ca FTC să efectueze o investigație asupra produselor OpenAI și a altor operatori de sisteme AI puternice:
„Este timpul ca FTC să acționeze […] CAIDP îndeamnă FTC să deschidă o investigație asupra OpenAI, să interzică alte lansări comerciale ale GPT-4 și să se asigure că sunt puse în aplicare măsurile de protecție necesare pentru a proteja consumatorii, întreprinderile și piața comercială.”
În timp ce ChatGPT-3 a fost lansat în noiembrie, cea mai recentă versiune, GPT-4 este considerată de zece ori mai inteligentă. La lansarea sa pe 14 martie, un studiu a constatat că GPT-4 a reușit să promoveze cele mai riguroase examene de liceu și de drept din SUA în prima percentila 90.
De asemenea, poate detecta vulnerabilitățile contractelor inteligente în Ethereum, printre altele.
În această dimineață, piratam noul API ChatGPT și am găsit ceva super tare: există peste 80 de plugin-uri secrete care pot fi dezvăluite prin eliminarea unui anumit parametru dintr-un apel API.
Pluginurile secrete includ un „plugin DAN”, un „plugin de prețuri cripto” și multe altele. pic.twitter.com/Q6JO1VLz5x
—@rez0__) 24 martie 2023
Plângerea vine în momentul în care Elon Musk, Steve Wozniak de la Apple și o mulțime de experți în inteligență artificială au semnat o petiție pentru a „întrerupe” dezvoltarea sistemelor de inteligență artificială mai puternice decât GPT-4.
Avem o oarecare neliniște existențială de AI astăzi
— Elon Musk (@elonmusk) 26 februarie 2023
Președintele CAIDP, Marc Rotenberg, s-a numărat printre alți 2.600 de semnatari ai petiției, care a fost prezentată de Institutul Viitorul Vieții pe 22 martie.
Legate de: Acesta este modul în care ChatGPT-4 cheltuiește 100 USD pentru tranzacționarea cu criptomonede
Autorii au susținut că „IA avansată ar putea reprezenta o schimbare profundă în istoria vieții pe Pământ”, în bine și în rău.
Organizația Națiunilor Unite pentru Educație, Știință și Cultură (UNESCO) a cerut, de asemenea, statelor să implementeze cadrul ONU „Recomandarea privind etica IA”.
După +1000 de lucrători din tehnologie au îndemnat să întrerupă antrenamentul celor mai puternici #AI sisteme, @UNESCO invită țările să pună imediat în aplicare Recomandarea sa de etică a IA: primul cadru global de acest fel și adoptat de 193 de state membrehttps://t.co/BbA00ecihO pic.twitter.com/GowBq0jKbi
—Eliot Minchenberg (@E_Minchenberg) 30 martie 2023
În altă ordine de idei, un fost cercetător Google AI recent pretins că chatbot-ul AI de la Google „Bard” a fost antrenat folosind răspunsuri de la ChatGPT.
În timp ce cercetătorul și-a dat demisia din cauza incidentului, directorii Google au negat acuzațiile făcute de fostul lor coleg.
Revistă: Cum să împiedici AI să „anihileze umanitatea” folosind blockchain
Source link