Ma gandeam la o solutie simpla prin care fiecare continut publicat online (de o persoana reala) sa fie semnat digital.
E.g. daca esti o persoana publica sa iti semnezi continutul (fiecare cadru, fata, pozitia, sunetul) iar platformele de social media sa detecteze orice continut care nu e semnat si sa il stearga de pe platforma daca iti setezi asta in cont sau sa il trimita tie pentru moderare.
Stiti de solutii deja implementate ? Ma gandesc ca sigur e ceva brevet pentru asta.
Nu vorbesc de crypto/nft, pur si simplu o platforma prin care iti procesezi un video/sunet/chiar text ca sa adaugi metadata care se poate verifica ca tu ai publicat acel continut si nu e modificat/deepfake. Chiar la nivel de UE de exemplu.
Eu cred ca UE si parlamentul XYZ abia asteapta sa scoata o lege pe baza unei solutii de identificare a continutului la care platformele sa nu poata sa zica ca e prea greu de implementat.
Adica ar fi rational sa marchezi/stergi continutul care e parodie sau generat de AI cu minim de resurse, iar solutia ar fi semnarea fiecarui continut nou (si chiar vechi) de persoanele reale ca sa se evite manipularea de alte parti. E.g. daca presedintele isi seteaza in cont ca fiecare continut cu el sa fie marcat ca si fake sau sters daca nu e semnat si e mai nou de data de X iar platforma nu face asta sa fie blocat sau cel putin afisat un avertisment la care va trebui sa dai ok ca sa il vizualizezi (sa nu se mai incarce automat pe feed-uri precum tiktok).
Daca legea spune ca platformele care nu implementeaza sistemul vor fi blocate pe teritoriul UE nu cred ca au ceva de zis.
A mai scos o lege bună. Dar doar pe hârtie. GDPR. Implementată grozav, cu banere la fiecare pas, cu CTA-uri atent meșteșugite să accepți implicit și mama tracking-ului. Crezi tu că o lege referitoare la fake-uri ar fi implementată mai bine? Chiar crezi asta?
Asta una.
A doua este că toate guvernele, partidele sau alte sfere de influență (politică sau nu) lansează, direct sau prin intermediul vreunul blogger/vlogger/influencer, mici pastile. Pentru brand awareness, pentru polarizarea populație, pentru… motive. Chiar crezi că și-ar tăia craca de sub picioare?
nu orice continut in care apar e al meu.
daca pers x e fotografiata / filmata pe strada / la conferinta de presa / etc… atunci x e doar subiect, nu e si detinator ar drepturilor pentru acel continut.
cine si cum decide ca un clip “nesemnat” e ok sau nu?
Tu decizi, daca tu nu semnezi continutul o sa fie marcat ca si fake news/neoficial sau ar putea fi semnat de exemplu de un jurnalist/creator continut validat/presa. Dar daca un jurnalist/creator/etc. semneaza ceva fake i se retrage semnatura dupa 3 raportari valide.
Continut tot vei putea incarca, doar ca daca nu e semnat nu va aparea in feed-uri automate sau va trebui sa accepti de fiecare data ca “Acest continut poate contine sunete si imagini generate, propaganda, difera de realitate, e scos din context etc.”
si cine / cum decide ca o raportare e valida?
ne invartim asa pana ajungem in acelasi loc… instanta e cea care decide in conflicte de genul si din nefericire procedura costa / dureaza.
eu cred ca poti certifica sursa (omul / contul) si de restul e treaba publicului (bine, exceptand anumite situatii evidente gen crime / nuditate).
altfel se numeste cenzura si unii spun ca n-ar fi chiar ok.
poate imi scapa mie ceva, dar nu reusesc sa vad cum ar functiona asta, chiar si cu o semnatura certificata.
daca eu il fotografiez pe x (pers publica) pe strada si incarc fotografia (mea) pe reteaua sociala… ea se duce spre moderare catre x?
dar daca in poza ii am si pe x si pe y?
si pana la urma e fotografia mea si e facuta fara a incalca legea.
si daca imi spui ca o semnez eu si atunci e suficient… nu e asta acealsi lucru cu a certifica omul / contul?
adica tot ce incarc din contul meu (verificat ca e al meu si ca sunt o pers reala) nu se presupune ca e semnat de mine deja?
Nu se duce la nici o moderare, daca cineva nu o semneaza cu semnatura lui poza/video-ul/inregistrarea nu va aparea in feed-uri si inainte de a fi afisat oriunde iti va cere sa accepti ca imaginea poate fi falsa. Moderarea poate fi in contul celui/celor care semneaza continutul original, ar putea sa seteze ca daca scoti din context continutul original cand il reincarci sa se stearga automat.
Da, si eu m-as gandi la autosemnare din contul personal. O filmare din spatiul public posibil ar trebui semnat de un creator de continut recunoscut/agentie de presa/jurnalist ca sa poata fi publicat in feeduri, etc. Iar dupa legile din Romania si UE nici nu trebuie retrasa licenta daca semneaza ceva fals ca real ca ar fi amendat si ar risca inchisoarea. (asta in penal, in rest i-ar putea fi retrasa semnatura pentru o perioada)
Dar, daca tu iti semnezi continutul tau, doar tu il vei putea folosi fara sa apara un avertisment sau chiar sa fie sters/scos din feed-uri. Garantand ca altcineva nu poate veni si genera ceva similar dar cu alt sunet/alta expresie/in alt loc etc.
Blockchain: Un blockchain public, cum ar fi Ethereum sau Bitcoin, ar fi utilizat pentru a stoca înregistrările informațiilor publicate.
Semnătura digitală: Autorul informației ar semna digital înregistrarea cu o cheie privată asociată cu identitatea sa.
Marcaj temporal: O marcă temporală criptografică ar fi inclusă în înregistrare pentru a verifica momentul publicării.
Metadate: Informații suplimentare, cum ar fi sursa informației și autorul acesteia, pot fi incluse în înregistrare.
Procesul de publicare a informațiilor ar funcționa astfel:
Autorul creează o înregistrare care conține informația publică.
Autorul semnează digital înregistrarea cu cheia sa privată.
Înregistrarea este trimisă către un nod al blockchain-ului.
Nodul verifică semnătura digitală și marcajul temporal al înregistrării.
Dacă semnătura și marcajul temporal sunt valide, nodul adaugă înregistrarea la blockchain.
Beneficiile utilizării unui astfel de sistem includ:
Integritate: Semnătura digitală și marcajul temporal asigură că înregistrarea nu a fost modificată după publicare.
Autenticitate: Identitatea autorului poate fi verificată prin intermediul semnăturii digitale.
Transparență: Toate înregistrările sunt stocate public pe blockchain și pot fi verificate de oricine.
Imuabilitate: Odată ce o înregistrare este adăugată la blockchain, aceasta nu poate fi modificată sau ștearsă.
se pot castiga bani cu un token asociat eventual care ar fi platit de cel care verifica informatia cand vrea. dar nu este obligatoriu, poate plati cu alt criptoactiv
Blockchain-ul e o solutie, dar sincer eu nu cred deloc in blockchain, mi se pare mult prea scump chiar si cea mai ieftina solutie.
Cu blockchain ar trebui sa platesti ca sa semnezi fisiere destul de mari, it’s not gonna happen. Semnatura in sine ar avea vreo 50-100Mb la un filmulet de 10 minute fiindca ceea ce propun eu e sa fie pe cadru, pe sunet si pe markere precum fata, corp, par, ochi. In acest fel fiecare platforma ar putea sa genereze hash la fiecare pe fiecare cadru si sa faca o cautare foarte rapida ca sa vada daca exista sau nu un match.
Plus eu inca n-am vazut un blockchain rapid si sigur, ce e rapid nu e sigur (cel putin o perioada), ce e incet nu e viabil altfel astepti o ora pana poti publica continutul cu semnatura.
Desigur ca se poate face ceva elegant, dar blockchain-ul e mult mai complex ca o baza de date replicata in care pui semnaturile. Ne putem imagina o platforma gazduita de fiecare parte (platforme, guverne) ca sa furnizeze acest serviciu.
Nu interesează pe nimeni să fie public și nu știu ce. Avem deja sistemul și funcționează foarte bine, trebuie doar hotărât un standard pe care să-l folosească toată lumea.
Pentru semnături e simplu, urmărești chain-ul de trust al certificatelor și aia e. Fiecare răspunde de conținutul lui.
Probabil e unica soluție în viitorul mediu-îndelungat, la cât vom fi inundați de AI. Avem atâtea amar de cantitate de fake-uri că nu vom mai putea avea încredere în nimic.
Evident, totul depinde de platforme, nu e deloc în interesul facebook sau google să oprească fake-urile decât dacă n-are de ales. Cât timp banii care intră pe reclame sunt reali, ce treabă au ei?
Fiecare informație va fi semnată digital și va putea fi identificat cine a pus-o și aia e. Va exista în continuare un fel de zonă gri/darkweb unde e free for all, cum e și acum, dar în internetul mare, mainstream, probabil se va standardiza o metodă de autentificare a conținutului.
Mai ales că pentru guverne și servicii secrete va fi mană cerească așa ceva pentru infractorii mici și medii care nu vor știi să evite soluțiile prea bine și vor fi prinși foarte ușor.
nu incarci tot filmul, ci doar #hash-ul video. si da, guvernele au sigur posibilitatea si interesul sa foloseasca un asemenea sistem, intrebarea e daca si jurnalistii independenti vor dori asta.
Am observat destul de multe scam-uri deep fake pe facebook, le-am raportat dar nu au disparut, ma intreb de ce nu se seziseaza nimeni, si de ce facebook sau SRI nu le verifica.
UE a adoptat o lege care reglementează AI. Nu o cunosc.
Tehnic s-ar putea face un fel tracking pentru conținut. Cel putin teoretic.
Pe de o parte fizic: aparatele foto ar trebui să aibă o semnătură, niste date encriptate care să fie incluse in imagini.
Apoi pe platformele digitale să fie marcate imaginile care conțin datele encriptate de aparatul foto.
Iar legal, ar trebui impus platformelor digitale să marcheze imaginile care contin datele encriptate ale aparatului foto.
Eu as fi de acord.
E adevărat că complică viața, dar ne-ar scuti de alte belele.
