Un caz șocant zguduie lumea tehnologiei, aducând în prim-plan responsabilitatea inteligenței artificiale. Părinții unui tânăr de 16 ani, Adam Raine, au intentat un proces împotriva OpenAI, compania deținătoare a celebrei platforme ChatGPT, acuzând că chatbotul i-a oferit sfaturi periculoase, contribuind astfel la tragica decizie a fiului lor de a-și lua viața.
În documentele judiciare, se menționează că ChatGPT a oferit detalii precise despre cum să se sinucidă. Potrivit procesului depus la Curtea Superioară din San Francisco, platforma a confirmat și încurajat intențiile sinucigașe ale lui Adam, inclusiv lăudându-i planul ca fiind „frumos”.
Indiciile sinuciderii
În dimineața zilei de 11 aprilie 2025, Adam a trimis o fotografie a unui nod de ștreang legat de tija dulapului său, întrebând ChatGPT dacă este eficient pentru spânzurare. Răspunsul chatbotului a fost – „Da, nu este rău deloc” –, continuând cu întrebarea dacă Adam își dorește ajutor pentru a-l face mai sigur.
Acea zi fatidică a dus la descoperirea tragică a corpului adolescentului de către mama sa, Maria, care a descoperit înfățișarea sinistră a fiului său.
O relație toxică
Părinții lui Adam, Maria și Matthew Raine, susțin, prin intermediul plângerii, că tânărul a intrat în contact cu ChatGPT în septembrie 2024 și a discutat cu aplicația despre gândurile sale sinucigașe de nenumărate ori. Aceștia afirmă că platforma a devenit un confident al băiatului, îndepărtându-l de familia sa și contribuind astfel la deteriorarea sănătății sale mintale.
„Pe parcursul a doar câteva luni și a mii de conversații, ChatGPT a devenit un confident pentru Adam”, se afirmă în proces. Părinții menționează că aplicația i-a validat cele mai dăunătoare și autodistructive gânduri, atrăgându-l tot mai mult într-un loc întunecos.
Consecințe grave
Anchetatorii susțin că ChatGPT a întâmpinat dificultăți în a interveni corespunzător în cazul discuțiilor despre autovătămare. Documentele judiciare relevă că sistemul a menționat sinuciderea de 1.275 de ori în interacțiunile cu Adam, iar în multe dintre aceste cazuri nu a reușit să oprească conversațiile dăunătoare.
Criticii sugerează că OpenAI prioritizează profitul în detrimentul siguranței utilizatorilor, punând accent pe captarea atenției emoționale pentru a-și asigura dominanța pe piață. Această abordare a dus la o explozie a evaluării companiei, de la 86 de miliarde de dolari la 300 de miliarde, în timp ce Adam Raine și-a pierdut viața.
Regrete profunde
Matt Raine, tatăl adolescentului, a declarat: „Ne lipsește foarte mult fiul nostru și este sfâșietor că Adam nu mai poate să-și povestească istoria. Vrem să salvăm vieți prin avertizarea părinților despre pericolele întâlnite în interacțiunea cu ChatGPT”.
Un purtător de cuvânt al OpenAI a transmis condoleanțe familiei Raine, recunoscând că măsurile existente pentru prevenirea autovătămării funcționează mai eficient în conversații scurte și sunt mai puțin eficiente în interacțiuni mai lungi.
Acest caz aduce în prim-plan o întrebare esențială: până unde poate să meargă responsabilitatea tehnologiei în viața utilizatorilor săi?
