Anthropic lansează FlashProve, un sistem de validare pentru AI

Pe scurt

• Anthropic a dezvoltat un sistem open-source numit FlashProve.
• FlashProve validează răspunsurile AI prin dovezi criptografice.
• Sistemul a fost testat pe modelul Llama 4 Maverick cu 400 miliarde de parametri.
• FlashProve nu este un produs finalizat și nu există planuri de lansare pentru moment.

Anthropic lucrează la un sistem open-source numit FlashProve, care are ca scop validarea răspunsurilor generate de modelele sale de inteligență artificială. Acest sistem permite utilizatorilor să confirme dacă un răspuns provine cu adevărat de la modelul specificat, utilizând dovezi criptografice. Astfel, utilizatorii pot verifica dacă furnizorul de servicii utilizează un model mai ieftin pentru a reduce costurile sau dacă un atacator a modificat răspunsurile generate.

FlashProve funcționează prin generarea unei amprente unice pentru fiecare model, fără a dezvălui greutățile acestuia. Furnizorul de servicii creează o promisiune inițială pentru model, iar ulterior, pentru fiecare răspuns, se oferă o dovadă că acel răspuns a fost generat de modelul respectiv. Utilizatorii pot verifica această dovadă fără a necesita acces la greutățile modelului sau resurse de calcul mari. Anthropic subliniază că sistemul este suficient de ușor pentru a putea fi utilizat pe dispozitivele utilizatorilor.

Ce aplicații are FlashProve?

FlashProve nu este destinat doar utilizatorilor finali. Acesta poate fi utilizat și de terțe părți pentru a demonstra că evaluările de securitate ale unui software au fost realizate cu un model avansat. De asemenea, evaluatori independenți și autorități de reglementare pot verifica dacă modelul utilizat corespunde cu cel declarat.

Detalii tehnice ale sistemului

Anthropic a testat FlashProve pe modelul Llama 4 Maverick, care are 400 de miliarde de parametri. Producția de dovezi pentru un răspuns se realizează cu ajutorul unui singur GPU H100, capabil să genereze dovezi pentru aproximativ 110 tokeni pe secundă. Fiecare fișier de dovadă pentru o solicitare de 1024 tokeni are o dimensiune de aproximativ 19 MB. Această metodă de generare a dovezilor utilizează de 70 până la 95 de ori mai mult timp GPU comparativ cu rularea directă a modelului.

Sistemul FlashProve, alături de definiția protocolului și codul sursă, a fost publicat sub licența Apache 2.0. De menționat este faptul că FlashProve nu este un produs finalizat și că Anthropic nu are în prezent planuri pentru implementarea sa comercială.

Întrebări frecvente

Ce este FlashProve?

FlashProve este un sistem open-source dezvoltat de Anthropic pentru a valida răspunsurile generate de modelele de inteligență artificială.

Cum funcționează FlashProve?

FlashProve utilizează dovezi criptografice pentru a demonstra că un răspuns provine de la un model specific, fără a dezvălui greutățile acestuia.

Pe ce model a fost testat FlashProve?

FlashProve a fost testat pe modelul Llama 4 Maverick, care are 400 de miliarde de parametri.

Este FlashProve un produs finalizat?

Nu, FlashProve nu este un produs finalizat și Anthropic nu are planuri de lansare pentru moment.

Despre acest articol

Sursă originală: webrazzi.com

Acest articol a fost redactat de redacția TechnoLife pe baza informațiilor din sursa citată, cu asistența unor instrumente AI pentru traducere și structurare. Pentru orice corecție factuală, ne poți contacta prin pagina de Contact.