Comisia Europeană a anunţat că evaluează consecinţele practice ale noilor restricţii impuse de Statele Unite asupra companiei Anthropic şi a subliniat că astfel de măsuri nu ar trebui să discrimineze partenerii şi aliaţii Washingtonului, transmite Reuters. Recent, cei de la Anthropic susțineau că programul ”Mythos” a devenit atât de puternic și de independent încât le este frică să-l lanseze către publicul larg.
Anthropic restricționează accesul la cele mai avansate modele de inteligență artificială
Declaraţia vine după ce Anthropic a anunţat vineri că va dezactiva brusc cele mai avansate modele de inteligenţă artificială ale sale pentru toţi utilizatorii, ca urmare a unei directive americane privind controlul exporturilor. Autorităţile de la Washington au cerut suspendarea accesului la aceste modele pentru cetăţenii străini, invocând motive de securitate naţională.
„Vedem o nouă generaţie de modele de inteligenţă artificială extrem de performante care ajung pe piaţă. Aceste modele oferă beneficii importante, inclusiv în domeniul apărării cibernetice, dar ridică şi preocupări serioase privind securitatea informatică, ce trebuie abordate”, a declarat purtătorul de cuvânt al Comisiei Europene, Thomas Regnier.
Europa trebuie să-și întărească suveranitatea tehnologică
Oficialul european a precizat că măsurile adoptate pentru gestionarea acestor riscuri nu ar trebui să fie discriminatorii faţă de partenerii Statelor Unite.
„Considerăm că măsurile de precauţie luate în acest context nu trebuie să discrimineze partenerii”, a afirmat Regnier.
Comisia Europeană consideră că situaţia reprezintă încă un argument pentru consolidarea independenţei tehnologice a Uniunii Europene.
„Această evoluţie ilustrează încă o dată de ce Europa trebuie să îşi întărească suveranitatea tehnologică. Analizăm cu atenţie consecinţele practice pentru utilizatorii europeni ai acestor servicii”, a adăugat purtătorul de cuvânt al executivului european.
Anthropic se temea să lanseze ”Mythos”, un program de AI extrem de periculos
Anthropic anunța, inițial, că a suspendat lansarea la scară largă a celui mai nou model de IA al său, Mythos, din cauza îngrijorărilor că acesta este prea eficient în identificarea „vulnerabilităților cu grad ridicat de gravitate” în principalele sisteme de operare și browsere web, informează Bussines Insider.
„Creșterea semnificativă a capacităților versiunii de previzualizare Claude Mythos ne-a determinat să decidem să nu o punem la dispoziția publicului larg”, a scris Anthropic în fișa de sistem a versiunii de previzualizare. „În schimb, îl folosim ca parte a unui program defensiv de securitate cibernetică cu un număr limitat de parteneri.”
Anunțul reprezintă un pas important pentru Anthropic, care în februarie a slăbit angajamentul privind siguranța referitor la modul în care va dezvolta modelele de IA. Claude Opus 4.6, pe care compania l-a numit cel mai puternic model al său de până acum, a fost lansat public pe 5 februarie.
În declarațiile sale despre Mythos, Anthropic a detaliat mai multe descoperiri și episoade îngrijorătoare, inclusiv faptul că modelul a putut urma instrucțiuni care îl încurajau să iasă dintr-un sandbox virtual. Un sandbox virtual reprezintă un mediu (laborator) virtual, securizat, izolat și controlat, unde coduri de software, programe cu vulnerabilități sau documente pot rula și pot fi testate fără să afecteze sistemul central, aplicațiile locale sau rețeaua.
Sursă: stiripesurse.ro
