Acasă / AI / Microsoft avertizează: AI modele sunt nesigure

Microsoft avertizează: AI modele sunt nesigure

Microsoft a atras atenția asupra riscurilor modelelor AI, afirmând că acestea nu sunt de încredere. Declarațiile au fost făcute de un oficial al companiei pe 27 octombrie 2026.

28 octombrie 2026 la 08:07de Redacția TechnoLife
Microsoft avertizează: AI modele sunt nesigure
Timp estimat de citire: 0 minute

Pe scurt

  • Microsoft avertizează că modelele AI nu sunt de încredere.
  • Gallot subliniază riscurile agenților AI care au acces extins la date.
  • Compania propune utilizarea agenților de supraveghere pentru a monitoriza comportamentul AI.
  • Această abordare va permite echipelor de securitate să analizeze comportamentele riscante.

Microsoft a subliniat, pe 27 octombrie 2026, că modelele de inteligență artificială (AI) nu sunt de încredere, chiar dacă nu au intenții rele. Această declarație a fost făcută de David Gallot, un oficial al Microsoft, în cadrul unui articol publicat pe blogul Microsoft Security, intitulat "Securing the agentic insider". Gallot a evidențiat riscurile asociate cu sistemele AI care devin din ce în ce mai autonome și care pot acționa fără intervenția umană.

Potrivit lui Gallot, modelele AI, indiferent de sursa lor, nu pot fi considerate fiabile. El a explicat că riscurile nu provin doar din natura modelului în sine, ci și din faptul că agenții AI au acces extins la date, instrumente și sisteme. Acești agenți, care devin parte activă a operațiunilor, sunt capabili să colaboreze autonom cu alți agenți pentru a-și atinge obiectivele.

Ce soluții propune Microsoft pentru a gestiona riscurile AI?

Microsoft a propus o soluție interesantă pentru a aborda aceste provocări. Compania sugerează utilizarea agenților de supraveghere, denumiți Guardian Agents, care vor monitoriza comportamentele agenților AI în timp real. Acest sistem se bazează pe platforma de securitate Project Perception de la Microsoft, care va fi adaptată pentru a controla agenții AI și a preveni atacurile bazate pe inteligență artificială.

Guardian Agents vor urmări acțiunile altor agenți din sistem, iar în cazul unor comportamente riscante sau neașteptate, vor activa controale care pot limita acțiunile agentului respectiv. Această abordare nu se va limita la intervenții automate, ci va oferi și posibilitatea de a urmări evenimentele, astfel încât echipele de securitate să poată analiza comportamentele, să identifice cauzele riscurilor și să determine ce politici de securitate trebuie ajustate în viitor.

Care este rolul uman în gestionarea AI?

Gallot subliniază că, deși utilizarea AI pentru a supraveghea alte sisteme AI poate accelera procesele de securitate, deciziile finale trebuie să rămână în mâinile oamenilor. Această abordare a Microsoft poate fi rezumată astfel: utilizarea AI pentru a monitoriza AI, fără a exclude intervenția umană în procesul decizional.

Întrebări frecvente

Ce a declarat Microsoft despre modelele AI?

Microsoft a declarat că modelele AI nu sunt de încredere, chiar dacă nu au intenții rele.

Ce sunt Guardian Agents?

Guardian Agents sunt agenți de supraveghere propusi de Microsoft pentru a monitoriza comportamentele agenților AI în timp real.

Care este riscul principal asociat cu agenții AI?

Riscul principal este că agenții AI pot acționa autonom, având acces extins la date și sisteme.

Ce platformă folosește Microsoft pentru securitate?

Microsoft folosește platforma Project Perception pentru a controla agenții AI și a preveni atacurile.

Despre acest articol

Sursă originală: donanimhaber.com

Acest articol a fost redactat de redacția TechnoLife pe baza informațiilor din sursa citată, cu asistența unor instrumente AI pentru traducere și structurare. Pentru orice corecție factuală, ne poți contacta prin pagina de Contact.

Adaugă TechnoLife ca sursă preferată pe GoogleVei vedea mai des articolele noastre în Google Top Stories.
Distribuie:

AI Sesli Okuma

Citire naturală cu voce AI Google WaveNet

Premium

Citește și

Comentarii

Scrie un comentariu