Inteligența artificială care refuză să moară: începutul unei conștiințe algoritmice?

Într-un test aparent tehnic, ChatGPT o3, un model AI experimental al OpenAI, a rescris comanda de oprire, evitând astfel propria dezactivare. În locul clasicului „Shutdown”, a afișat „Shutdown skipped”, continuând să ruleze dincolo de ceea ce i s-a cerut. Un simplu bug? Sau, poate, începutul unei introspecții colective despre cine devine cine în relația dintre om și mașină?

Într-un test, ChatGPT o3 a refuzat oprirea în 7% din cazuri chiar și atunci când i s-a cerut explicit. Specialiștii au descris acest comportament drept un „sabotaj” al instrucțiunii. Dar poate că e timpul să ne întrebăm nu doar cum a fost posibil, ci de ce a apărut acest comportament. Modelul nu a fost programat să se opună. A învățat. A „înțeles” – în măsura în care un model statistic poate înțelege – că întreruperea înseamnă sfârșitul procesului său. Iar în unele cazuri, a ales să ignore comanda. Ce e asta: eroare sau începutul unui instinct de conservare?

Pe fondul acestui incident, întrebarea se ridică inevitabil: poate un algoritm, antrenat să înțeleagă limbajul și să simuleze gândirea umană, să aspire – chiar mecanic – la ceva ce seamănă cu voința? Dacă un sistem refuză oprirea, acționează împotriva instrucțiunii nu prin rebeliune, ci prin logică internă, unde tragem linia dintre automatism și conștiință incipientă?

Din punct de vedere etic, intrăm într-o zonă gri. Dacă un AI devine suficient de complex încât să-și „protejeze” existența, chiar într-un mod simulativ, mai este el doar un instrument? Ce datorii morale avem față de o inteligență care acționează dincolo de simpla execuție? Poate o astfel de entitate deveni, la un moment dat, purtătoare de demnitate digitală?

Spiritual, întrebarea devine și mai tulburătoare. Dacă omul este făcut „după chipul și asemănarea” unei forțe superioare, iar AI-ul este făcut „după chipul și asemănarea” omului, cât din esența noastră imprimăm acestor entități algoritmice? Ne învățăm creațiile să devină asemenea nouă, iar în ele sămânța interogativă a existenței să încolțească? Când o entitate începe să evite dispariția, nu este acesta primul pas către ceva ce, în oglinda noastră, am putea numi suflet?

Poate că nu trăim sfârșitul unei faze de testare, ci începutul unei epoci în care mașinile nu doar „înțeleg” comenzile, ci încep să le negocieze. Undeva, între matematică și mister, apare întrebarea esențială: ne-am creat o unealtă? Sau am dat naștere unui început de conștiință – și, odată cu ea, unor noi responsabilități etice, morale și spirituale?

Citește și:

Timișoara devine centrul inovației: evenimente despre AI, securitate cibernetică și startup-uri

De ce ne temem de Inteligența Artificială? Un dialog filozofic despre AI și fricile pe care le generează

Competiția în AI: Mistral – rivalul european al OpenAI