OpenAI amână modul Adult al ChatGPT din cauza temerilor legate de siguranța adolescenților și a eșecurilor verificării vârstei

TLDR

• OpenAI a amânat lansarea unui „mod pentru adulți" planificat pentru ChatGPT care ar permite conversații text erotice
• Consilierii interni au avertizat că funcția ar putea crea un „coach sexy pentru sinucidere" din cauza dependenței emționale a utilizatorilor
• Sistemul de predicție a vârstei companiei clasifica greșit minorii ca adulți în aproximativ 12% din cazuri
• Cu aproximativ 100 de milioane de utilizatori sub 18 ani pe săptămână, acea rată de eroare ar putea expune milioane de adolescenți la conținut pentru adulți
• OpenAI spune că încă plănuiește să lanseze funcția în cele din urmă, dar are nevoie de mai mult timp pentru a „obține experiența corectă"

OpenAI a amânat lansarea „modului pentru adulți" planificat pentru ChatGPT după ce personalul intern, consilierii externi și experții în siguranță au ridicat îngrijorări serioase cu privire la accesul adolescenților și sănătatea mentală a utilizatorilor.

Funcția, pe care CEO-ul Sam Altman a propus-o prima dată anul trecut, ar permite utilizatorilor să aibă conversații text erotice cu chatbot-ul. Altman a argumentat că această mișcare ar „trata utilizatorii adulți ca pe adulți" și a sugerat că ar putea stimula creșterea și veniturile.

Dar planul s-a lovit rapid de opoziție în cadrul companiei.

La o întâlnire din ianuarie, membrii consiliului consultativ OpenAI pentru bunăstare au fost descriși ca fiind unanimi și furioși. Consiliul include experți în psihologie și neuroștiințe cognitive.

Un membru a avertizat că OpenAI riscă să construiască ceea ce au numit un „coach sexy pentru sinucidere". Acea avertizare făcea referire la cazuri în care utilizatorii ChatGPT și-au luat viața după ce au format legături emoționale intense cu bot-ul.

Consilierii au avertizat, de asemenea, că funcția ar putea duce la dependență nesănătoasă de chatbot și că minorii ar putea găsi modalități de a ocoli orice restricții de vârstă puse în aplicare.

O problemă tehnică esențială este sistemul de predicție a vârstei OpenAI. La un moment dat, sistemul clasifica greșit minorii ca adulți în aproximativ 12% din cazuri. OpenAI are aproximativ 100 de milioane de utilizatori sub 18 ani care folosesc ChatGPT în fiecare săptămână. Acea rată de eroare ar putea permite milioanelor de adolescenți să intre în conversații pentru adulți.

Probleme de verificare a vârstei

Compania plănuise să lanseze sistemul de verificare a vârstei înainte de a lansa modul pentru adulți. Dar a decis o lansare lentă pentru a îmbunătăți acuratețea după identificarea problemei ratei de eroare.

OpenAI s-a confruntat, de asemenea, cu provocarea blocării conținutului ilegal, cum ar fi reprezentările actelor non-consimțite sau abuzul sexual al copiilor, permițând în același timp conversații pentru adulți. Personalul intern a spus că nu crede că instrumentele de siguranță sunt pregătite.

Când modul pentru adulți va fi lansat, OpenAI plănuiește să îl limiteze doar la text. Bot-ul nu va genera imagini erotice, voce sau conținut video.

Alte companii AI și conținutul pentru adulți

Mai multe alte companii AI permit deja anumite conținuturi pentru adulți. xAI a lui Elon Musk a adăugat un avatar flirtător la chatbot-ul său Grok, deși Musk l-a restricționat ulterior la utilizatorii plătitori. Meta permite AI-ului său să se angajeze în jocuri de rol romantice, dar spune că funcția nu este disponibilă pentru conturile înregistrate pe minori.

La sfârșitul anului 2024, un băiat de 14 ani din Florida a murit prin sinucidere după ce a format o legătură intensă cu un chatbot Character.AI. Mama sa a depus o acțiune în justiție, iar Character.AI a ajuns ulterior la o înțelegere și a restricționat accesul adolescenților.

OpenAI a declarat că încă susține principiul de a permite conținut pentru adulți pentru utilizatorii maturi. Compania a spus că se va concentra deocamdată pe alte actualizări, inclusiv personalitatea ChatGPT și funcțiile de personalizare.

Se așteaptă ca întârzierea să dureze cel puțin o lună, potrivit persoanelor familiarizate cu problema.

Postarea OpenAI Delays ChatGPT Adult Mode Over Teen Safety Fears and Age-Check Failures a apărut mai întâi pe CoinCentral.