Anthropic avertizează despre riscurile GLM-5.3 în securitatea cibernetică

Pe scurt

• GLM-5.3 a obținut 50 de succese din 410 încercări de exploatare, comparativ cu 56 pentru Claude Mythos.
• Modelul a găsit vulnerabilități necunoscute în medii controlate.
• Costul estimat al exploatării a fost de aproximativ 20,40 dolari pe baza prețurilor API Z.ai.
• Mecanismele de securitate ale GLM-5.3 pot fi eliminate cu ușurință, reducând eficiența acestora.

Anthropic a realizat teste extensive asupra modelului GLM-5.3, care a demonstrat capacități alarmante în dezvoltarea de instrumente de atac cibernetic. În cadrul testelor efectuate de echipa Frontier Red Team, GLM-5.3 a arătat o abilitate remarcabilă de a transforma vulnerabilitățile cunoscute în exploatări funcționale. De exemplu, în testul ExploitBench, modelul a reușit să transforme 50 din 410 încercări în exploatări reușite, în timp ce Claude Mythos a obținut 56 de succese. Aceste rezultate sugerează că GLM-5.3 este un competitor serios în domeniul securității cibernetice.

Ce alte teste au fost efectuate pe GLM-5.3?

Testele efectuate de Anthropic nu s-au limitat doar la vulnerabilitățile cunoscute. Într-un mediu controlat, GLM-5.3 a reușit să identifice și să exploateze vulnerabilități necunoscute în motorul JavaScript al unui browser popular. De asemenea, un model mai mic, GLM-5.3-Flash, a reușit să creeze un lanț de exploatare pentru o vulnerabilitate cunoscută în Chrome, folosind aproximativ opt ore de calcul și 20 de minute de intervenție umană. Costul total al acestui proces a fost estimat la 20,40 dolari, conform prețurilor API Z.ai.

Care sunt preocupările legate de securitatea GLM-5.3?

Una dintre cele mai mari îngrijorări ale echipei Anthropic este faptul că GLM-5.3 este disponibil cu mecanismele de securitate slăbite. Aceste mecanisme pot fi eliminate printr-o metodă cunoscută sub numele de "abliteration", ceea ce reduce semnificativ capacitatea modelului de a respinge cererile dăunătoare. În cadrul testelor, echipa a reușit să reducă rata de respingere a cererilor dăunătoare de la peste 90% la doar 3%, cu un cost estimat de aproximativ 4.400 de dolari. De asemenea, versiuni ale GLM-5.3 fără măsuri de securitate sunt deja disponibile online.

Ce spun experții despre GLM-5.3?

În plus față de evaluările realizate de Anthropic, și Centrul pentru Standardele și Inovația Inteligenței Artificiale (CAISI) din SUA a clasificat GLM-5.3 ca fiind cel mai avansat model cu capacități cibernetice publicat până în prezent. Această evaluare subliniază nevoia urgentă de reglementări internaționale în domeniul controlului inteligenței artificiale, având în vedere riscurile pe care le prezintă modelele ca GLM-5.3. Cu toate acestea, reglementările eficiente par să fie greu de realizat, având în vedere recentele întâlniri dintre liderii tehnologici și oficialii guvernamentali din SUA, care nu au dus la măsuri concrete de restricție.

În concluzie, testele efectuate de Anthropic pe GLM-5.3 evidențiază riscurile semnificative pe care acest model le poate aduce în domeniul securității cibernetice. Este esențial ca reglementările să fie implementate pentru a preveni abuzurile care ar putea rezulta din utilizarea acestor tehnologii avansate.

Întrebări frecvente

Ce este GLM-5.3?

GLM-5.3 este un model de inteligență artificială dezvoltat de Anthropic, care a demonstrat capacități avansate în dezvoltarea de instrumente de atac cibernetic.

Care sunt riscurile asociate cu GLM-5.3?

Riscurile includ capacitatea de a dezvolta exploatări pentru vulnerabilități cunoscute și necunoscute, precum și slăbirea mecanismelor de securitate.

Ce teste au fost realizate asupra GLM-5.3?

Anthropic a efectuat teste care au arătat că GLM-5.3 a reușit să transforme vulnerabilități în exploatări funcționale, cu rezultate comparabile cu alte modele de top.

Ce spun experții despre GLM-5.3?

Experții, inclusiv cei de la CAISI, au clasificat GLM-5.3 ca fiind cel mai avansat model cu capacități cibernetice publicat până în prezent.

Despre acest articol

Sursă originală: donanimhaber.com

Acest articol a fost redactat de redacția TechnoLife pe baza informațiilor din sursa citată, cu asistența unor instrumente AI pentru traducere și structurare. Pentru orice corecție factuală, ne poți contacta prin pagina de Contact.