Zilele acestea s-a întâmplat un lucru foarte grav, de care lumea nu este tocmai conștientă și este trecut cu vederea. În fapt, eu v-am vorbit de lucrurile acestea nu cu mult timp în urmă, însă se pare că problemele nu vor apărea peste câțiva ani, ci este posibil ca doar peste câteva luni, atât de repede avansează tehnologiile de Inteligență Artificială.
Cei cinci ochi au anunțat că “viteza progreselor AI de vârf este atât de mare încât ipotezele referitoare la riscurile informatice pot ajunge depăşite în câteva luni, nu în câţiva ani”.
Această alianță de informații creată după al Doilea Război Mondial între Australia, Canada, Noua Zeelandă, Regatul Unit și Statele Unite ale Americii, cu numele de Five Eyes nu face anunțuri aiurea, de obicei îngrijorarea și pericolele sunt mari când o face.
Firma care produce cele mai bune modele de AI la ora actuală nu este Google ci Anthropic iar aceasta a suspendat luna aceasta accesul la cele mai puternice modele de inteligenţă artificială, Claude Fable 5 şi Mythos 5, la numai câteva zile de la lansarea comercială, pentru a se conforma unei directive a guvernului Statelor Unite, care menţionează “securitatea naţională”.
Mai simplu spus, au constatat că au dat drumul unei bestii pe care nu o pot controla.
Compania americană Anthropic declarase deja anterior, în aprilie, că modelele sale de AI de vârf Fable 5 și Mythos au capacităţi fără precedent de detectare a breşelor în software, iar serviciile secrete au cerut insistent guvernelor de la Londra, Washington, Canberra, Ottawa şi Wellington şi companiilor din ţările lor să se pregătească rapid pentru evoluţie, pentru că AI “reduce obstacolele pentru actorii rău intenţionaţi şi creşte viteza şi complexitatea atacurilor”.
Se pare însă că oamenii care lucrează în domeniul securității cibernetice sunt depășiți deja de situație și nu pot face față, nu se pot pregăti pentru ca să poată să preîntâmpine eventualele probleme pe care le pot aduce noile modele de AI. Altfel nu ar fi fost necesară suspendarea.
Cu atât mai mult este șocantă suspendarea, cu cât consecințele pot fi dezastruoase.
În primul rând, decizia Washingtonului de a bloca accesul străin la ceea ce este considerat pe scară largă cel mai avansat model de inteligență artificială din lume – a determinat dezvoltatorii și companiile din întreaga lume să se uite și în curtea vecinului, nu doar la tehnologia americană, adică la chinezi, care devin din ce în ce mai capabili și ei.
De altfel, la doar o zi după ce Anthropic a întrerupt accesul la Fable 5, firma chineză Zhipu AI, cu sediul la Beijing, a lansat cel mai avansat model al său, GLM-5.2. Fondatorul Tang Jie a descris restricțiile americane drept „profund regretabile” într-o postare pe X, subliniind în același timp natura complet deschisă a modelului lor.
GLM-5.2 a urcat imediat pe locul al doilea în clasamentul Arena pentru codare front-end, fiind depășit doar de Fable 5. Această realizare a marcat prima dată când un model chinezesc a intrat în top trei la nivel mondial și a reprezentat o piatră de hotar pentru China AI. De asemenea, acțiunile Zhipu listate la bursa din Hong Kong au crescut cu aproape 60% în ultima lună, împingând capitalizarea de piață a companiei la peste 1 trilion de dolari.
Acum, ce să spunem, situația este clară. Aici nu mai vorbim despre o concurență între SUA și China, ci despre despre pericole mai mari, care au cântărit mai mult decât dezastrul creat de o asemenea suspendare a celui mai avansat model de inteligență artificială de pe planetă prin dezactivare de către guvern, nu de probleme tehnice.
Vă dați seama, cercetătorii din toată lumea îl studiau, companiile îl testau, spitalele deja probabil îl foloseau, pentru că acolo orice minut contează, oamenii se minunau de cât de bine merge și apoi s-a oprit brusc, pentru că așa a hotărât cineva. Cineva nu a hotărât așa degeaba, pe motivul de securitate națională, pericolul este mai mare decât pierderile imense suferite de această suspendare, nu doar în plan material, ci și ca imagine.
Acest pericol din umbră, care se apropie cu viteză ca un prădător și va ajunge față în față cu omenirea peste câteva luni, după spusele celor cinci ochi, acesta este cel despre care vreau să vă mai vorbesc puțin, nu ca să vă încarc cu alte griji, ci poate ca să fiți oarecum pregătiți pentru un eventual dezastru.
Păi peste câteva luni chiar se poate întâmpla un dezastru, pentru că o lipsă a securității cibernetice poate duce la destabilizări masive, căderea burselor, economia se duce în jos, se alege praful de tot, putem ajunge într-o criză în care oamenii să se mănânce unii pe alții ca canibalii. Nu strâmbați din nas, se mănâncă ei și acum, când au de toate, pentru a avea mai mult, se bat pe ciolane ca disperații, d-apoi de foame, când nu vor mai avea nimic.
Ei l-au oprit tocmai ca să amâne aceste câteva luni, pentru că de oprit de tot nu se mai poate. Ca să înțelegeți, noi, omenirea, oamenii suntem într-o alergătură continuă în fața acestui prădător, pe care, culmea, noi singuri l-am creat și care, la un moment dat, ne va ajunge din urmă, pentru simplul fapt că este mai rapid. Atunci se vor produce inevitabil breşe.
Cinci ochi avertizează că oamenii trebuie să se pregătească permanent, ca un atlet de curse, pentru că pregătirile permit controlul rapid al acestora şi evitarea degenerării lor în crize operaţionale şi financiare majore.
Tot Cinci ochi atrage atenția că pentru întărirea defensivei informatice, organizaţiile ar trebui să integreze la rândul lor instrumente de AI în operaţiunile de securitate, să îşi actualizeze sistemele învechite şi să limiteze accesul la sistemele critice. Păi dacă este nevoie să spună cinci ochi treaba asta, înseamnă că oamenii au intrat într-o stare de letargie, de adormire, de amorțire, de leneveală, iar asta este grav, pentru că nu mai sunt vigilenți, iar chinezii și alții nu dorm niciodată, iată au lansat rapid, chiar a doua zi, modelul lor.
Nu spun acum că chinezii nu au dreptul să facă și ei modele AI și așa mai departe, spun doar că atât timp cât nu suntem vigilenți, nu trebuie să ne plângem că alții sunt și vin din urmă cu putere.
Nu doar în ce privește securitatea cibernetică este un pericol dezvoltarea ultra rapidă a AI, ci din toate punctele de vedere, social, economic.
O să avem de-a face cu pierderea masivă a locurilor de muncă, proliferarea deepfake-urilor, prejudecățile algoritmice, pierderea abilităților umane critice (descalificare cognitivă) și la toate acestea se adaugă și ceva ce ține de cel mai necesar element pentru viața umană și anume apa. Consumul masiv de energie și apă în centrele de date va face să ne batem pe apă cu roboții.
O să spui: bine, ne bagi tu în sperieți cu toate astea, le-am mai auzit și noi pe ici pe colea, dar ce să facem, că oricum nu putem face nimic.
Adevărat, nu putem face nimic, dacă nu știm că în spatele nostru aleargă spre noi un urs, iar dacă știm, putem doar să alergăm în continuare, știind. Însă dacă știi mai din timp, poate ai timp să tranchilizezi ursul cu o pușcă. De asta spun, că trebuie să știm și nu doar să știm, ci să conștientizăm, poate conștientizând, cineva inventează un sistem care să ne protejeze de pericolele create de AI. Dacă știm că o dependență excesivă de modele AI erodează gândirea critică, judecata și abilitățile de rezolvare a problemelor în cadrul organizațiilor profesionale, să facem cumva, să implementăm în programul AI, că oricum este făcut de oameni, un program care să preîntâmpine astfel de efecte, adică să lase și oamenii să gândească, nu să le dea doar mură în gură.
De asemenea, dacă avem de-a face cu proliferarea deepfake-urilor hiperrealiste și a boților automatizați care inundă ecosistemul public cu informații false, extrem de convingătoare, atunci să avem un program, tot AI, care să te anunțe imediat că ceea ce vezi este pielea sulii, nu este George Călinescu adevărat, ci ceea ce îi pun alții în gură.
Apoi, dacă avem de-a face doar cu roboți independenți, care, antrenați pe baza unor date istorice părtinitoare sau a unor algoritmi eronați perpetuează inegalitatea în domenii precum angajarea, aprobarea creditelor și pronunțarea sentințelor în sistemul de justiție penală, atunci să găsim antiroboți care să îi oprească și să îi aresteze.
Această suspendare tocmai la acest lucru se referă, la faptul că se crează modele AI puternice, fără a se crea și antidoturi specifice. Este la fel ca în cursa antibioticelor cu bacteriile, în care se spune că peste câțiva ani, antibioticele nu vor mai putea face față noilor specii de bacterii. Însă în cazul acesta, tot oamenii crează bacteriile, în speță AI-ul, deci ei ar putea să îl țină puțin pe loc și să creeze mai întâi antibioticul, un lux pe care nu și-l pot permite medicii în cazul bacteriilor, pentru că acelea evoluează și se adaptează constant de la natură.
Se pare că la fel este cumva și cu AI, el evoluează și se autoînvață permanent, până ne vom trezi cu unul care va gândi singur și va considera că noi oamenii ne cam facem rău singuri și trebuie el să ne limiteze pe noi și atunci să vezi într-o zi cum vor cădea toate avioanele din cer, pentru că AI va înțelege și va considera că ele poluează prea mult atmosfera și că trebuie eliminate, pierderile umane fiind nesemnificative comparativ cu miliardele de oameni salvați.
AI nu preia când învață doar gândirea bună, umană, ci și pe cea rea, greșită sau rea intenționată și cine știe ce conexiuni face de ne trezim cu niște nucleare lansate în cap, atunci când va avea puterea să treacă peste toate sistemele de securitate.
De exemplu, la o lună după lansarea GPT-4, un dezvoltator l-a folosit pentru a rula un agent autonom numit ChaosGPT, menit să „distrugă umanitatea”. ChaosGPT a compilat cercetări despre armele nucleare, a recrutat alte AI-uri și a scris tweet-uri pentru a-i influența pe alții. Din fericire, ChaosGPT nu a avut capacitatea de a-și îndeplini obiectivele, dar dacă folosea Antropic Claude 5 sau poate altul mai avansat din viitor, 6, 12, poate reușea. Natura rapidă a dezvoltării AI sporește riscul reprezentat de viitoarele AI-uri cu intenții rele.
Un alt exemplu de risc este în Biosecuritate: AI cu capacități în cercetarea biologică ar trebui să aibă controale stricte ale accesului, deoarece ar putea fi reutilizate în scopuri teroriste. Capacitățile biologice ar trebui eliminate din AI destinate uzului general.
Trebuie investit masiv în modalități de utilizare a AI pentru biosecuritate și în intervenții generale de biosecuritate, cum ar fi detectarea timpurie a agenților patogeni prin monitorizarea apelor uzate.
Este un nonsens să investești doar în crearea de AI mai puternic, fără și în aceste capabilități de apărare. Este ca și cum crești un pui de tigru, fără să construiești între timp o cușcă mare, puternică de oțel. El când este mic, este inofensiv, te joci cu el ca și cu o pisicuță, dar când se face mare, este altă poveste.
Nu este o noutate, experții dezbat de mult timp amenințarea pe termen lung, reprezentată de inteligența artificială generală (AGI) extrem de avansată, axată pe putere, care dezvoltă obiective care nu sunt aliniate cu supraviețuirea și valorile umane.
Dar, deși se vorbește de mult timp pentru conștientizare, iată că cei din domeniu nu s-au pregătit corect și de aceea acum vedem pentru prima dată o intervenție de suspendare atât de clară, de către guvernul SUA și eu cred că aceasta este doar prima încercare de oprire a unui robot de a face rău din istorie și că vor urma multe, tot mai multe, până inteligența artificială nu va mai putea fi oprită și vom fi nevoiți să trăim într-o junglă informațională, în care ți se poate întâmpla orice. Dacă în jungla reală te poate mânca un tigru sau te poate mușca un șarpe, în jungla informațională te poate curenta un aparat sau se pot întâmpla multe alte lucruri, diverse, exact ca în junglă, unde sunt practic infinite pericolele, de la furnici, păianjeni veninoși, șerpi, la țânțari, boli, virusuri, etc.
Cu asta aș vrea să rămâneți și închei, o singură idee, vreau doar să fiți conștienți că în jurul nostru se construiește o junglă cu animale roboți și că o să fim nevoiți să trăim în ea, mult mai curând decât bănuim.
Să ne rugăm la Dumnezeu să nu ne pierdem sensul de oameni și să mai avem o frântură de natură, o bucățică de frumusețe naturală, o părticică de rai în țara noastră, o pădure cu izvoare, o mare cu soare, și o conștiință umană vie, care să nu fie nevoită să limiteze AI, ca guvernul american, ci să îl scoată cât mai mult din viața sa, încă dinainte să o acapareze total.
Să fiți iubiți.
Iovamspus 