În ultimele săptămâni, lumea inteligenței artificiale a fost în efervescență în urma afirmațiilor făcute de firma de top Anthropic cu privire la noul său model, Claude Mythos.
Compania declară că a descoperit că instrumentul poate depăși performanța oamenilor în anumite sarcini de hacking și securitate cibernetică, ceea ce a determinat discuții între autoritățile de reglementare, legislatori și instituțiile financiare despre pericolele pe care le-ar putea reprezenta pentru serviciile digitale.
Mai mulți giganți tehnologici au primit acces la Mythos prin intermediul unei inițiative numite Project Glasswing, concepută pentru a consolida rezistența față de Mythos în sine.
Însă alții subliniază că este în interesul Anthropic să sugereze că instrumentul său are capacități nemaivăzute până acum, ceea ce înseamnă – ca întotdeauna în cazul inteligenței artificiale – sarcina de a distinge între afirmațiile justificate și exagerări poate fi dificilă, relatează BBC.
Ce este Claude Mythos?
Mythos este unul dintre cele mai recente modele ale Anthropic, dezvoltat ca parte a sistemului său mai amplu de inteligență artificială, numit Claude. Acesta cuprinde asistentul și familia de modele de inteligență artificială ale companiei, rivalizând cu ChatGPT de la OpenAI și Gemini de la Google.
A fost dezvăluit de Anthropic la începutul lunii aprilie sub numele de „Mythos Preview”.
Cercetătorii care testează modul în care modelele de inteligență artificială gestionează anumite solicitări sau sarcini, cunoscute sub numele de „echipe roșii”, au declarat într-un raport că Mythos este „surprinzător de capabil în sarcini de securitate informatică”.
Ei au descoperit că instrumentul putea localiza erori latente ascunse în cod vechi de zeci de ani și le putea exploata cu ușurință.
Așadar, în loc să îl pună la dispoziția utilizatorilor Claude, Anthropic a oferit acces la 12 companii de tehnologie prin intermediul Proiectului Glasswing, pe care l-a descris ca „un efort de a securiza cel mai critic software din lume”.
Printre aceștia se numără gigantul cloud computing Amazon Web Services, producătorii de dispozitive Apple, Microsoft și Google, precum și producătorii de cipuri Nvidia și Broadcom.
Crowdstrike, a cărei actualizare de software defectuoasă a cauzat o întrerupere majoră a serviciului la nivel global în iulie 2024 , se numără, de asemenea, printre partenerii proiectului, Anthropic declarând că a oferit acces la Mythos la peste 40 de organizații responsabile de software critic.
Într-un videoclip lansat odată cu lansarea Proiectului Glasswing, șeful Anthropic, Dario Amodei, a declarat că s-a oferit să colaboreze cu oficiali guvernamentali americani pentru „a ajuta la apărarea împotriva riscului reprezentat de aceste modele”.
De ce există îngrijorări?
Anthropic spune că în timpul testelor a constatat că modelul era foarte priceput în sarcini de securitate cibernetică și hacking, depășind performanțele oamenilor.
„Mythos Preview a descoperit deja mii de vulnerabilități de severitate ridicată, inclusiv unele în fiecare sistem de operare și browser web major”, a afirmat Anthropic pe 7 aprilie .
„Având în vedere ritmul progresului IA, nu va trece mult până când astfel de capabilități vor prolifera, potențial dincolo de actorii care s-au angajat să le implementeze în siguranță.”
Compania a declarat că poate localiza – fără prea multă supraveghere – erori critice care necesită acțiuni imediate în sistemele vechi, inclusiv o vulnerabilitate prezentă într-un sistem de 27 de ani, și poate sugera modalități de exploatare a acestora.
Unii miniștri de finanțe, bancheri centrali și finanțatori și-au exprimat ulterior îngrijorările serioase cu privire la acest model, temându-se că acesta ar putea submina securitatea sistemelor financiare.
Ministrul canadian de finanțe, François-Philippe Champagne, a declarat pentru BBC că Mythos a fost discutat la o reuniune a Fondului Monetar Internațional (FMI) de la Washington DC, săptămâna aceasta.
„Cu siguranță este suficient de grav pentru a justifica atenția tuturor miniștrilor de finanțe”, a spus el, descriind tehnologia drept o „necunoscută”.
Directorul Băncii Angliei, Andrew Bailey, a declarat pentru BBC că „trebuie să analizăm foarte atent acum ce ar putea însemna această ultimă dezvoltare a inteligenței artificiale pentru riscul de criminalitate cibernetică”.
Între timp, UE a declarat că poartă discuții și cu Anthropic cu privire la preocupările sale legate de Mythos.
Ce au spus experții în cibernetică despre asta?
Ciaran Martin, fostul șef al Centrului Național de Securitate Cibernetică din Marea Britanie, a declarat pentru BBC la începutul acestei săptămâni că Mythos ar putea descoperi vulnerabilități critice mult mai rapid decât alte modele de inteligență artificială au „zguduit cu adevărat oamenii”.
„Al doilea lucru este că, chiar și cu slăbiciunile existente pe care le cunoaștem, dar împotriva cărora organizațiile s-ar putea să nu fi făcut patch-uri, s-ar putea să nu fie bine apărate, este pur și simplu un hacker foarte bun”, a spus el.
Mulți analiști și experți independenți în securitate cibernetică nu au reușit încă să îl testeze ei înșiși, iar unii rămân sceptici cu privire la performanța Mythos.
Institutul pentru Siguranța Inteligenței Artificiale din Marea Britanie a concluzionat recent că, deși este un model foarte puternic, cea mai mare amenințare a sa ar fi împotriva sistemelor vulnerabile și slab apărate.
„Nu putem spune cu siguranță dacă Mythos Preview ar putea ataca sisteme bine apărate”, au declarat cercetătorii săi .
Așadar, acolo unde există o securitate cibernetică bună, acest model ar putea fi, în teorie, oprit, sperăm.
Ar trebui să ne facem griji pentru asta?
Temerile legate de inteligența artificială nu sunt nimic nou.
Apar constant modele și instrumente noi și sunt adesea însoțite de promisiuni de a ne revoluționa viața, spre bine sau spre rău.
Valorificarea acestui amestec de frică și entuziasm față de inteligența artificială și impactul său viitor a devenit, de asemenea, o caracteristică a sectorului și a strategiilor sale de marketing în ultimii ani.
În cazul Mythos, încă nu știm suficiente informații pentru a stabili dacă aceste speranțe sau temeri sunt justificate sau mai degrabă o reflectare a entuziasmului din jurul industriei.
În ambele cazuri, potrivit NSCS, cel mai important lucru pe care îl putem face acum este să nu intrăm în panică și, în schimb, să ne concentrăm pe necesitatea de a pune în aplicare corect securitatea cibernetică de bază.
La urma urmei, majoritatea hackerilor nu au nevoie de instrumente de super-IA pentru a sparge sistemele, când adesea sunt suficiente atacuri mult mai simple.
„Pentru unii acesta este un eveniment apocaliptic, pentru alții pare a fi multă agitație”, a declarat Martin pentru BBC.
Dar el a spus că, indiferent dacă este vorba de acest instrument sau de altele ulterioare create de Anthropic sau de rivalii săi, pe lângă risc, există și oportunitatea de a construi o lume online mai sigură.
„Pe termen mediu, există o oportunitate de a utiliza aceste instrumente pentru a remedia o mulțime de vulnerabilități subiacente ale internetului”, a spus el.
Sursă: stiripesurse.ro
