Yoshua Bengio, considerat unul dintre „părinții” inteligenței artificiale moderne, a lansat recent o inițiativă revoluționară: o inteligență artificială creată special pentru a controla și reglementa alți agenți AI. Proiectul, dezvoltat în cadrul organizației non-profit LawZero, urmărește crearea unui sistem software care să detecteze, prevină și blocheze comportamentele periculoase ale AI-urilor autonome.
De ce avem nevoie de un AI care supraveghează AI?
În contextul în care AI-ul devine tot mai prezent în decizii critice – de la finanțe și sănătate până la securitate și comunicare – riscul ca anumite sisteme să acționeze imprevizibil sau să scape de sub control este real. Bengio propune o soluție inspirată din biologie și societate: la fel cum organismele vii au sisteme imunitare, iar societățile au legi și autorități, și AI-ul ar trebui să aibă „mecanisme de auto-reglare” independente.
Controlul controlorului: întrebări fără răspuns
Această abordare ridică însă întrebări profunde. Cine controlează AI-ul care controlează ceilalți? Cine stabilește limitele intervenției și după ce criterii? Dacă acest sistem „de gardă” va deveni el însuși suficient de puternic încât să decidă cine are voie să acționeze și cine nu, ce se întâmplă dacă greșește? Sau, mai grav, dacă este compromis?
Ordine absolută sau libertate algoritmică?
Teoretic, ideea unei superinteligente etice pare o soluție. Practic, ea amintește de concepte precum „dictatura binară” – un regim algoritmic în care deciziile nu mai sunt analizate uman, ci impuse de o formă de rațiune abstractă, inflexibilă și invizibilă.
O întrebare care ne va urmări în viitor
Ne aflăm, poate, în fața unui nou paradox al progresului: cu cât devenim mai performanți în crearea de inteligență artificială, cu atât avem mai multă nevoie de un mecanism care să o țină în frâu. Dar, în loc să regleze doar tehnologia, s-ar putea ca acest „AI supraveghetor” să ajungă să reglementeze tot ce înseamnă decizie, intenție sau acțiune umană.
În cele din urmă, întrebarea rămâne deschisă și tulburătoare: putem crea o inteligență artificială suficient de puternică încât să controleze alte AI-uri, dar destul de umilă încât să nu ne controleze și pe noi? Sau, poate, tocmai această încercare de a impune o ordine perfectă asupra haosului digital nu va face decât să nască o formă mai subtilă – dar mai profundă – de lipsă de libertate?
Citește și:
Inteligența artificială care refuză să moară: începutul unei conștiințe algoritmice?
Adaugă Ziarul Pozitiv ca sursă preferată în Google
Din 2020, Ziarul Pozitiv spune poveștile care contează – despre oameni, idei și inițiative care aduc binele, echilibrul și speranța în România.
👉 Dacă vrei să primești zilnic o doză de bine, direct pe telefon, abonează-te la canalul nostru de WhatsApp!
WhatsApp Ziarul Pozitiv
Urmărește Ziarul Pozitiv:
Linkedin, Facebook, Instagram, Grupul oamenilor întreprinzători - Business Catalog, YouTube, X, și TikTok.
Echipa Ziarul Pozitiv nu a solicitat și nu beneficiază de finanțare din fonduri guvernamentale. Publicitatea este limitată și prezentată într-un mod neinvaziv. De asemenea, Ziarul Pozitiv nu acceptă fonduri de la partide politice și nu promovează industrii precum jocurile de noroc, pariurile, alcoolul și tutunul. Așadar, prin utilizarea serviciilor oferite de Ziarul Pozitiv, sprijini activitățile societății civile și contribui la promovarea inițiativelor care aduc binele și prosperitatea. Descoperă serviciile noastre!
