Microsoft transformă instrumentul de evaluare a securității AI pentru contrafacere Open Source

Microsoft și-a transformat instrumentul de evaluare a riscurilor de securitate AI, Counterfit, open-source, permițând oricui să înceapă să utilizeze instrumentul gratuit. În prezent, organizațiile pot utiliza Counterfit pentru a automatiza evaluările riscurilor de securitate, asigurându-se că protecția pe care o folosesc este la zero.

Microsoft a dezvoltat inițial Counterfit ca un instrument intern care ar putea evalua rapid securitatea AI și a sistemelor de învățare automată. A început viața ca o colecție de scripturi înainte de a se transforma rapid într-o automatizare generică AI pe care un operator o poate folosi pentru a „ataca mai multe sisteme AI” simultan.

Microsoft folosește în mod regulat Counterfit ca instrument de bază în operațiunile lor de echipă AI roșie. Deoarece Counterfit este agnostic de mediu, model și date, instrumentul poate furniza o evaluare precisă fără impedanță.

Instrumentul în sine este conceput pentru a fi utilizat de profesioniștii din domeniul securității. Counterfit folosește fluxuri de lucru similare cu alte instrumente populare din echipa roșie, cum ar fi Metasploit sau PowerShell Empyre, cu suport extins pentru scriptare, algoritmi de atac preîncărcați, scanare a vulnerabilităților, înregistrare avansată și multe altele, accesate prin linia de comandă.

Microsoft a lucrat mult cu profesioniștii din domeniul securității și cu organizațiile mari pentru a dezvolta și mai bine Counterfit. Pe Blogul Microsoft Security, Matilda Rhode, cercetător principal în securitate cibernetică, Airbus, a spus:

IA este din ce în ce mai utilizată în industrie; este vital să privim înainte pentru a asigura această tehnologie, în special pentru a înțelege unde pot fi realizate atacuri spațiale caracteristice în spațiul problematic. Eliberarea de instrumente open-source de la o organizație precum Microsoft pentru evaluarea practicienilor de securitate securitatea sistemelor de IA este atât binevenită, cât și un indiciu clar că industria abordează această problemă Serios.

Puteți găsi open-source Microsoft Counterfit pe GitHub oficial.

Legate de: Locuri de muncă pe care nu le-ai știut niciodată că au fost efectuate de AI

De ce este utilă contrafacerea?

Chiar și pentru o companie de mărimea Microsoft, efectuarea unor evaluări de securitate eficiente nu este ușoară, mai ales atunci când acele companii sunt lideri enormi Fortune 500, guverne, organizații non-profit și multe altele. Un studiu anterior Microsoft a constatat că un număr mare de companii nu au putut să-și testeze cu exactitate sistemele de IA.

Am constatat că 25 din 28 de companii au indicat că nu dispun de instrumentele potrivite pentru a-și asigura sistemele de AI și că profesioniștii în securitate caută îndrumări specifice în acest spațiu.

Counterfit facilitează finalizarea acestor evaluări, automatizând procesul de analiză și testare.

Legate de: Modalități prin care puteți utiliza tehnologia AI pentru a vă îmbunătăți afacerea

Mai mult, o publicație recentă Studiul Gartner a listat adoptarea securității AI ca una dintre cele mai importante măsuri de securitate pe care o companie le poate lua pentru a îmbunătăți protecția. Același studiu a menționat că „până în 2024, organizațiile care implementează controale dedicate de gestionare a riscului de IA vor evita cu succes rezultatele negative ale IA de două ori mai des decât cele care nu fac acest lucru”.

Pe scurt, Counterfit devenind un instrument open-source de evaluare a securității AI ar trebui să ajute la transformarea lumii într-un loc puțin mai sigur.

Aceste 4 instrumente antivirus utilizează AI pentru a vă proteja sistemul

Următorul dvs. abonament antivirus trebuie să includă inteligență artificială sau este doar un alt cuvânt cheie de securitate?

Citiți în continuare

Despre autor