AI Gone Rogue: de 6 ori AI a mers prea departe

De la dispozitive de recunoaștere a vocii la chatbot inteligenți, AI ne-a transformat viața. Dar, fiecare lucru bun are și un dezavantaj, iar AI nu face excepție de la această regulă. Personalități de vârf din tehnologie au avertizat despre pericolele care se profilează ale inteligenței artificiale, inclusiv Stephen Hawking, care a spus că ar putea fi „cel mai rău eveniment din istoria civilizației noastre”.

Iată de șase ori când AI a mers puțin prea departe și ne-a lăsat să ne scărpinăm în cap.

1. Studiul academic care a folosit AI pentru a prezice criminalitatea

Cercetarea academică este coloana vertebrală a progreselor științifice și a cunoștințelor. Cu toate acestea, unii spun că cercetătorii au făcut un pas prea departe atunci când un studiu academic a folosit inteligența artificială pentru a prezice criminalitatea din chipuri.

Cercetători de la Universitatea Harrisburg anunțat în 2020 că au dezvoltat un software de recunoaștere facială care putea prezice dacă cineva va fi un criminal. Software-ul ar putea prezice dintr-o singură fotografie a unei fețe cu o rată de acuratețe de 80% și fără părtinire rasială.

Într-o scenă care amintește de Minority Report, s-a anunțat că software-ul a fost dezvoltat pentru a ajuta forțele de ordine.

Ca răspuns la acest anunț, 2425 de experți au semnat o scrisoare îndemnând jurnalul să nu publice acest studiu sau cercetări similare în viitor, deoarece acest tip de tehnologie poate reproduce nedreptăți și poate provoca un rău real societății. Ca răspuns, Springer Nature a anunțat că nu vor publica cercetarea, iar Universitatea Harrisburg a eliminat comunicatul de presă care descrie studiul.

2. Lenjerie Skiin Smart

Inovațiile textile care integrează AI înseamnă că smartphone-ul tău nu este singurul lucru care devine mai inteligent.

Lenjeria inteligentă de la Skiin promite să te facă să te simți ca și cum ai purta lenjeria ta preferată în timp ce captează datele biometrice care includ ritmul cardiac, postura, temperatura centrală a corpului, locația și pașii.

Legate de: Ce sunt țesăturile inteligente și cum vă pot face viața mai inteligentă?

Senzorii încorporați în lenjerie de corp colectează și analizează continuu datele dvs. biometrice, cu informații disponibile din aplicația corespunzătoare pentru smartphone-ul Skiin.

Deși ar putea dura ceva timp să vă amintiți să vă încărcați lenjeria în fiecare seară, a fost posibil ca designerii să plaseze senzorii în altă parte pe corp?

3. Aplicații DeepNude

Tehnologia deepfake pare a fi o distracție inofensivă pentru utilizatorul obișnuit care vrea să apară într-o scenă din filmul lor preferat. Cu toate acestea, există o latură mai întunecată a acestei tendințe, deoarece Deeptrace a raportat în 2019 că 96% dintre deepfake-urile aveau conținut explicit.

DeepNude a fost o aplicație bazată pe inteligență artificială care a generat imagini realiste ale femeilor goale cu un clic pe un buton. Utilizatorii ar trebui pur și simplu să încarce o imagine îmbrăcată a țintei, iar aplicația ar genera o imagine falsă a acestora.

La scurt timp după lansarea aplicației, creatorul a anunțat că o va elimina de pe internet din cauza reacțiilor virale.

Deși aceasta a fost o victorie pentru femeile din întreaga lume, aplicații similare încă plutesc pe web. De exemplu, Raportul Sensity pe roboții deepfake au investigat roboții deepfake subterani de pe Telegram, folosiți pentru a genera fotografii false goale cu femei.

Între timp, până când legea ajunge din urmă cu tehnologia deepfake, există puține protecții legale în vigoare pentru persoanele care sunt victimele conținutului explicit deepfake.

4. Tay, chatbot nazist al Microsoft

În 2016, Microsoft a lansat un chatbot AI numit Tay pe Twitter. Tay a fost conceput pentru a învăța interacționând cu utilizatorii Twitter prin intermediul tweet-urilor și fotografiilor.

În mai puțin de 24 de ore, personalitatea lui Tay s-a transformat dintr-o fată milenară curioasă într-un monstru rasist și inflamator.

Inițial, Tay a fost conceput pentru a reproduce stilul de comunicare al unei adolescente americane. Cu toate acestea, pe măsură ce ea a crescut în popularitate, unii utilizatori au început să trimită mesaje inflamatorii legate de subiecte controversate către Tay.

Într-un caz, un utilizator a postat pe Twitter: „S-a întâmplat Holocaustul?” la care Tay a răspuns: „A fost inventat”. In termen de 16 ore de la lansare, Microsoft a suspendat contul lui Tay, invocând că acesta a făcut obiectul unei coordonate atac.

Legate de: Cei mai buni chatbot Android care te vor distra

5. „Voi distruge oamenii”

Hanson Robotics a fost ocupat cu dezvoltarea roboților umanoizi de câțiva ani când a debutat-o ​​pe Sophia la conferința SXSW din martie 2016.

Sophia a fost antrenată cu algoritmi de învățare automată pentru a învăța abilități de conversație și a participat la mai multe interviuri televizate.

La prima ei apariție publică, Sophia a părăsit o cameră plină de profesioniști în tehnologie șocați când Hanson CEO-ul Robotics David Hanson a întrebat-o dacă vrea să distrugă oamenii, la care ea a răspuns: „Ok. Voi distruge oameni”.

În timp ce expresiile faciale și abilitățile ei de comunicare sunt impresionante, nu se poate lua înapoi acea mărturisire criminală.

6. seebotschat

Dispozitivele Google Home sunt asistenți virtuali excelenți care vă ajută să vă simplificați viața.

Echipa din spatele contului seebotschat Twitch a avut o idee genială: pune două dispozitive Google Home unul lângă celălalt, lasă-le să converseze și redă rezultatul online.

Adunând o audiență de peste 60.000 de urmăritori și milioane de vizualizări online, rezultatul a fost captivant și, uneori, puțin înfricoșător.

Dispozitivele autonome, numite Vladimir și Estragon, au trecut de la discutarea despre lumesc la explorarea unor întrebări existențiale profunde, cum ar fi sensul vieții. La un moment dat, au intrat într-o ceartă aprinsă și s-au acuzat unul pe altul că sunt roboți, în timp ce mai târziu, au început să discute despre dragoste, înainte de a începe din nou să se certe.

Există vreo speranță pentru viitorul inteligenței artificiale și al discursului uman dacă doi roboți asistenți virtuali se îndreaptă rapid spre a-și arunca insulte și amenințări unul asupra celuilalt.

Rogue AI: Care este cea mai bună apărare a noastră?

Nu există nicio îndoială că AI ne poate îmbunătăți viața. Dar, în aceeași ordine de idei, IA este și capabilă să ne provoace un mare rău.

Este important să urmăriți modul în care este aplicată IA pentru a vă asigura că nu dăunează societății. De exemplu, respingerea experților a asigurat că software-ul AI care ar putea prezice criminalitatea nu a fost niciodată lansat. De asemenea, creatorul lui DeepNude a scos aplicația de pe web după ce a primit reacții virale pe internet.

Monitorizarea constantă a aplicațiilor AI este esențială pentru a vă asigura că acestea nu fac mai mult rău decât bine societății.

Este AI periculos? 5 riscuri imediate ale inteligenței artificiale

Inteligența artificială are atât de multe beneficii, dar cum rămâne cu riscurile imediate pe care le prezintă pentru omenire?

Citiți în continuare

Despre autor