Ko će nas zaštititi od dezinformacija koje generira AI?

Generativni AI prešao je s nule na sto u manje od godinu dana. Iako rano, pokazao je svoj potencijal transformacije poslovanja. Oko čega se svi možemo složiti. Ono gdje se razilazimo je oko toga kako obuzdati opasnosti koje predstavlja.

Da budem jasan, zalažem se za inovacije i daleko od širenja straha. Ali nedavni porast dezinformacija – uglavnom usmjeren na polarizaciju oko kontroverznih pitanja ovog trenutka – jasno je stavio do znanja da, ako se ne kontrolira, gen AI može izazvati pustoš u društvima.

Već smo gledali ovaj film na društvenim mrežama, ali bile su potrebne godine i teške lekcije da shvatimo njegove nedostatke. Nešto smo (valjda) naučili. Pitanje je danas koji pomoći će zaustaviti plimu iskrivljenja stvarnosti od AI-ja, i kako?

Predvidljivo, vlade počinju djelovati. Europa prednjači, kao što je sve više pokazala u regulaciji tehnologije. SAD je odmah iza, sa Predsjednik Biden izdaje izvršnu naredbu prošlog listopada.

Ali bit će potrebno zajedničko djelovanje globalnog sela kako bi se “generacija umjetne inteligencije održala poštenom”. Prije nego što vlada može pomoći, mora razumjeti ograničenja dostupnih pristupa.

Problem identiteta postao je mnogo gori

U ovom novom svijetu istina postaje igla u plastu sijena mišljenja koja se maskiraju u činjenice. znajući od koga dolazi sadržaj važnije nego ikada.

A to nije tako jednostavno kao dekret da svaki račun na društvenim mrežama mora biti potvrđen identitetom. Tome se žestoko protive, au nekim slučajevima anonimnost je potrebna kako bi se opravdano zaštitili vlasnici računa. Štoviše, mnogim konzumentima najgoreg sadržaja nije bitno je li vjerodostojan niti odakle dolazi.

Unatoč tim upozorenjima, potencijalna uloga identiteta u suočavanju s genskom umjetnom inteligencijom nedovoljno je cijenjena. Skeptici, saslušajte me.

Zamislimo da propisi ili društvena svijest uzrokuju platforme da svakom vlasniku računa daju sljedeće izbore:

1. Potvrditi njihov identitet ili ne, i
2. Javno otkriti svoj potvrđeni identitet ili samo dobiti oznaku „ID potvrđeno“

Tada publika društvenih medija može bolje odlučiti tko je vjerodostojan. Jednako važno ako ne i više, identitet podupire odgovornost. Platforme mogu odlučiti o radnjama koje će poduzeti protiv serijskih „dezinformatora“ i ponovljenih zlostavljača sadržaja generiranog umjetnom inteligencijom, čak i ako se pojavljuju pod drugim imenima računa.

S obzirom na to da gen AI podiže uloge, vjerujem da taj identitet—točno zna koji objavio što– kritičan je. Neki će se usprotiviti, a identitet nije sveobuhvatan odgovor. Zapravo, niti jedno rješenje neće zadovoljiti sve zainteresirane strane. Ali ako propisi prisile platforme da ponude potvrdu identiteta za sve račune, uvjeren sam da će učinak biti jako pozitivan.

Zagonetka umjerenosti

Moderiranje sadržaja—automatizirano i ljudsko—posljednja je linija obrane od nepoželjnog sadržaja. Ljudska umjerenost je težak posao, s rizikom psihičke štete od izloženosti najgorem što čovječanstvo može ponuditi. Također je skup i često se optužuje za pristranu cenzuru koju platforme nastoje smanjiti.

Automatizirano moderiranje nadilazi ljudske sposobnosti da se nosi s bujicama novog sadržaja, ali ne uspijeva razumjeti kontekst (memeovi su uobičajeni primjer) i kulturne nijanse. Oba su oblika umjerenosti ključna i neophodna, ali samo su dio odgovora.

Konvencionalni recept koji se često čuje za kontrolu AI-ja je: „Potrebna je suradnja između tehnoloških čelnika, vlade i civilnog društva.“ Naravno, ali što konkretno?

Vlade, sa svoje strane, mogu potaknuti društvene i medijske platforme da ponude potvrdu identiteta i istaknuti ga na svim objavama. Regulatori također mogu utrti put metrici vjerodostojnosti koja zapravo pomaže u procjeni je li izvor vjerodostojan. Suradnja je nužna za razvoj univerzalnih standarda koji daju specifične smjernice i smjernice tako da privatni sektor ne mora nagađati.

Konačno, treba li stvaranje zlonamjernog AI izlaza biti protuzakonito? Zakonodavstvo za zabranu sadržaja namijenjenog nezakonitim aktivnostima moglo bi smanjiti količinu toksičnog sadržaja i olakšati teret moderatorima. Ne vidim da su propisi i zakoni sposobni pobijediti dezinformacije, ali su ključni u suočavanju s prijetnjom.

Sunčana strana ulice: inovacija

Obećanje inovacije ovdje me čini optimistom. Ne možemo očekivati ​​od političara ili vlasnika platforme da se u potpunosti zaštite od prijevara koje generira umjetna inteligencija. Ostavljaju veliku prazninu, a to je upravo ono što će potaknuti izum nove tehnologije za provjeru autentičnosti sadržaja i otkrivanje lažiranja.

Budući da sada znamo koja je loša strana društvenih medija, brzo smo shvatili da bi se generativna umjetna inteligencija mogla pokazati velikom negativnom mrežom za čovječanstvo, sa svojom sposobnošću da polarizira i obmanjuje.

Optimistički gledano, vidim prednosti višestrukih pristupa u kojima metode kontrole djeluju zajedno, prvo na izvoru, ograničavajući stvaranje sadržaja namijenjenog nezakonitoj upotrebi. Zatim, prije objave, provjera identiteta onih koji odbijaju anonimnost. Zatim, jasno označavanje kako bi se prikazale ocjene vjerodostojnosti i identitet postera ili njegov nedostatak. Konačno, automatizirano i ljudsko moderiranje može filtrirati neke od najgorih. Očekujem da će nova tehnologija autentifikacije uskoro doći na mrežu.

Zbrojite sve i imat ćemo puno bolje, iako nikad savršeno rješenje. U međuvremenu, trebali bismo izgraditi svoje vještine kako bismo shvatili što je stvarno, tko govori istinu i tko nas pokušava prevariti.

https://unite.ai/hr/tko-%C4%87e-nas-za%C5%A1tititi-od-dezinformacija-koje-stvara-umjetna-inteligencija/