6 mari probleme cu muzica deepfake

Cântecele noi ale artiștilor celebri devin virale pe rețelele sociale, ceea ce în mod normal nu este o problemă, cu excepția cazului în care o clonă a vocii este cea care cântă. Deși a fost unul dintre ultimele medii care a rezistat, muzica deepfake este acum o realitate.

Funcționează prin antrenarea unui model AI pe vocea unui cântăreț, iar rezultatele nu sunt întotdeauna rele. Există o mulțime de creativitate reală în crearea de melodii deepfake, dar problema nu este doar cu rezultatul. În multe cazuri, permisiunea nu este acordată, iar întrebările despre cine este plătit și dacă este etic, sunt doar câteva dintre problemele muzicii deepfake.

1. Seturi de date neautorizate

Dacă doriți să creați o piesă deepfake a unui artist celebru, trebuie să adunați fișiere audio ale vocii sale cântătoare într-un set de date. La fel ca orice date care aparțin cuiva, probabil ar trebui să obțineți permisiunea acestuia de a le folosi, dar un deepfake melodia poate ajunge pe o platformă muzicală mare, cum ar fi YouTube, Spotify sau TikTok, după ce a folosit o aplicație neautorizată. set de date.

Acest lucru s-a întâmplat artiștilor Drake și The Weeknd când un utilizator numit Ghostwriter a creat „Heart on My Sleeve”. Cântecul de succes a prezentat vocile artiștilor sintetizate prin inteligență artificială, completate cu versuri despre fosta iubită a lui The Weeknd.

Piesa a fost cu adevărat încântată de fani, cu laude suplimentare aduse lui Ghostwriter pentru utilizarea creativă a vocii deepfake, dar ca A raportat Seattle Times, nu toată lumea a văzut-o așa. Un purtător de cuvânt al Universal Music Group, casa de discuri majoră din spatele ambilor artiști, întreabă:

„De ce parte a istoriei vor să fie părțile interesate din ecosistemul muzical: de partea artiștilor, fanilor și expresia creativă umană sau de partea falsurilor profunde, fraudei și refuzul artiștilor de compensația cuvenită?"

2. Legea drepturilor de autor învechită

Dacă ești un artist care nu dorește ca vocea ta să fie clonată, este posibil ca legea drepturilor de autor să nu te poată ajuta încă. Deoarece legile noastre privind drepturile de autor au fost scrise într-un moment în care acest tip de tehnologie AI nu exista, nu este surprinzător că legile încă încearcă să ajungă din urmă.

Cel mai apropiat caz legal de „furt de voce” din SUA datează din anii 1990. La fel de raportat de Los Angeles Times, cântărețul Tom Waits a câștigat daune în valoare de 2,475 milioane de dolari de la Frito-Lay Inc., puternicul gigant de cipuri din spatele lui Doritos, Cheetos, Cracker Jack's și altele.

Reclama a folosit vocea cuiva care suna destul de aproape de Tom Waits, încât oamenii să creadă că adevăratul artist se află în spatele campaniei de publicitate. Același lucru s-ar putea spune despre melodiile deepfake care circulă în prezent, dar muzica AI nu a fost încă testată într-o luptă juridică.

În timp ce așteptăm să se actualizeze sistemul juridic, merită remarcat faptul că nu toată lumea are o problemă cu oamenii care își clonează vocea, luați Holly Herndon, de exemplu. În fața valului de aplicații muzicale AI care se apropie, ea a optat să-și autorizeze geamănul vocal numit Holly+ alături de un sistem care îi oferea o remunerație echitabilă.

Indiferent de partea ai lua, problema rămâne aceeași. Nu există o lege specifică a drepturilor de autor care să spună că trebuie să obțineți permisiunea artistului înainte de a-i folosi vocea. Până atunci, artiștii s-ar putea găsi în vestul sălbatic al tehnologiei AI, fără legi care să-i ghideze.

3. Cine este plătit?

Este în regulă să faci bani din muzică folosind vocea cuiva? Este o întrebare spinoasă care ar putea deveni o problemă mai mare pe măsură ce muzică deepfake este publicată pe platformele de streaming și monetizată pe platformele de social media.

După cum știm cu toții, este în regulă să cânți un cover al unei melodii celebre și să o postezi pe YouTube sau Spotify și, în acest caz, lucruri precum versurile, structura melodiei, melodia, ritmul etc. sunt copiate. Dar clonele vocale sunt destul de diferite, iar muzica deepfake nu este tocmai riffing pe o melodie existentă, ci creează o melodie complet nouă folosind vocea altcuiva.

Cu alte cuvinte, clonele de voce nu ar exista dacă nu ar fi instrumentele AI și seturile de date neautorizate. Artiștii petrec o viață întreagă perfecționând vocea cu care s-au născut și creând un sunet unic. A fura vocea cuiva și a câștiga bani din asta ar putea fi un pas prea departe.

4. Un gen cu zonă gri

Pentru a complica lucrurile, unii oameni ar putea să nu considere muzica deepfake ca fiind complet proastă. Spre deosebire de imaginile sau videoclipurile deepfake de care s-ar putea să râzi pentru scurt timp înainte de a derula pe telefon, muzica deepfake se dezvoltă spre un gen propriu.

Unii oameni o compară cu ideea de a scrie fanfiction, un mod distractiv și creativ de a aduce un omagiu unui artist. Este o viziune mai pozitivă care face dificilă excluderea muzicii deepfake ca pur și simplu tabu. Aruncă o privire la abordarea lui Holly Herndon cu privire la clonarea vocii AI în videoclipul de mai jos.

Deși nu toată lumea este de acord că acest tip de muzică ar trebui permis. La fel de Scrie Financial Times, casa de discuri majoră, Universal Music Group, și-a propus să elimine melodiile de calitate inferioară de pe platformele de streaming, inclusiv pe cele create de AI. În cele din urmă, platformele de streaming precum Spotify, Apple Music sau Tidal vor trebui să ia o decizie dacă acest gen de muzică este permis pe platforma sa.

Muzica deepfake aprinde dezbateri similare care au loc deja în lumea artei: ar trebui să fie considerată artă generată de IA? Abia acum, punem la îndoială muzica AI.

5. Preocupări etice în jurul rasei și identității

Era muzicii deepfake a început cu multă muzică care imită muzica rap. Având în vedere că rădăcinile istorice ale genului datează de la tinerii afro-americani care au crescut în Bronx, New York City, la începutul anilor 1970, unii oameni sunt îngrijorați de rasă și identitate în muzica AI.

Scriitor Lauren Chanel, este o persoană care consideră muzica deepfake o problemă serioasă. După cum este citat într-un articol al New York Times, ei explica:

„Este o altă modalitate prin care oamenii care nu sunt negri să-și îmbrace costumul unei persoane de culoare – să ridice mâinile pe Kanye sau Drake și să-l facă o marionetă – și asta este alarmant pentru mine.” „Acesta este doar un alt exemplu dintr-un lung șir de oameni care subestimează ceea ce este nevoie pentru a crea tipul de artă pe care, din punct de vedere istoric, oamenii de culoare face."

Nu este prima dată când muzica creată cu instrumente AI nu reușește să fie etică. La fel de raportate în revista Rolling Stone, un rapper avatar virtual pe nume FN Meka a fost semnat cu o casă de discuri, apoi a renunțat rapid când a fost online civil grupul de drepturi Industry Blackout a scris că proiectul a perpetuat „stereotipuri grosolane” despre Back cultură.

În orice caz, muzica deepfake ne reamintește că instrumentele AI nu pot fi separate de istoria producției muzicale, iar ignorarea acestui fapt se adaugă la pericolele deepfake-urilor AI.

6. Cauzați prejudicii artiștilor

Un lucru care nu trebuie trecut cu vederea este impactul emoțional pe care un cântec deepfake l-ar putea avea asupra artistului, mai ales atunci când o clonă de voce poate să cânte despre situații care nu s-au întâmplat niciodată, să exprime emoții care nu le aparțin și să pretindă că le pasă de lucruri pe care le-ar putea lipsi.

În cazul cântecului fals al lui Drake ft. The Weeknd, versurile includeau replici despre Selena Gomez care obișnuia să se întâlnească cu The Weeknd. Folosind un amestec de fapte din viața reală și versuri inventate, a fost o denaturare ciudată a realității care ar putea fi dăunătoare artistului care a trăit experiența reală.

În mod similar, producând versuri generate de AI „în stilul” cuiva faimos care folosește generatoare de text AI i-a determinat pe unii artiști să dispere în privința utilizării tehnologiei AI. După cum spune Nick Cave, „Ceea ce este ChatGPT, în acest caz, este replicarea ca parodie.”

Muzica deepfake este capabilă să pună în gura artistului cuvinte pe care nu le-a vorbit niciodată sau, în acest caz, nu le-a cântat. La nivel personal, acest lucru poate fi dăunător artistului care are puțin control asupra eliminării conținutului, fără a duce lupta în instanță.

Pregătirea pentru schimbări în industria muzicală

Datorită accesului tot mai mare la instrumentele AI, muzica a intrat în lumea deepfake-urilor, în special prin clonele de voce. A face diferența dintre o voce AI și o voce umană doar ascultând este extrem de dificil, făcând ușor ca o melodie deepfake să ajungă la platformele de streaming înainte de a fi eliminată.

Pe de o parte, fanii s-ar putea bucura de muzică deepfake și ar putea apărea un gen valid care folosește voci celebre pentru a crea muzică nouă și interesantă. Dar nu toți artiștii sunt de acord cu clonarea vocii lor și nu există legi care să împiedice oamenii să creeze seturi de date neautorizate.

Obținerea consimțământului, compensarea artiștilor și analizarea preocupărilor etice sunt doar câteva probleme cu care se confruntă artiștii și industria muzicală. Odată cu dezvoltarea rapidă a tehnologiei AI, merită să faceți o pauză pentru a reflecta asupra problemelor pe care le-au creat.