Miközben az rengeteg feladat elvégzésében tud segíteni, azért sok szempontból komolyan feladja a leckét több területen is. És itt most tekintsünk el az egész hátterét adó adatközpontok és GPU-farmok környezetromboló hatásától, bár hosszú távon ennek biztosan megfizeti majd az árát mindenki. Ennél akadnak hétköznapibb kérdések is: például az, hogy miként tudjuk megállapítani a legegyszerűbben, hogy egy kép, a generatív mesterséges intelligenciával készült, esetleg annak segítségével módosított, vagy sem. A hamisított fotók és illusztrációk ugyanis elárasztják az internetet, félrevezetve internetezőket, s persze a legkülönfélébb csalásokat elősegítve. Korábban írtunk már az Adobe ingyenes Content Credentials eszközéről, amely segíthet megállapítani egy képfájlról, hogy az valamilyen AI képgenerálóval készült-e, vagy használtak-e a feldolgozása során ilyet. Nemrég viszont a Google is bárki által elérhetővé tette a korábban csak egy szűk kör által tesztelhető eszközét. Az Google SynthID Detector használata nagyon egyszerű, és a segítségével elég jó hatásfokkal leleplezhetők az AI-val készült képek és videók. Nem csodaszer persze, de a semminél mindenképpen nagyobb támasz a kérdés eldöntéséhez.
Google SynthID Detector használata: ezzel leleplezhetők az AI-val készült képek és videók!
Mielőtt azt gondolnánk, valamilyen vadonatúj dologról van szó, el kell mondani, hogy a Google még 2023-ban mutatta be a SynthID technológiát, amelynek segítségével láthatatlan digitális vízjelek helyezhetők el a mesterséges intelligenciával létrehozott tartalmakban. Persze a hagyományos vízjelekkel ellentétben ezek nem látszanak a felhasználók számára magán a képen vagy videón, mint a logók szoktak. Egyszerűen a tartalom szerves részeként vannak jelen, az emberi szem számára láthatatlanul. Ennek köszönhetően viszont az erre kihegyezett ellenőrző eszközök – erre kitalált algoritmusok segítségével – képesek beazonosítani, hogy az adott médiatartalom AI-által generált vagy sem.
A SynthID Detector sokáig csak szűk körben volt elérhető, elsősorban újságírók, kutatók és más szakemberek kaptak hozzáférést a tartalmak eredetének vizsgálatához. Idén október végén viszont a keresőóriás világszerte, mindenki számára elérhetővé tette ezt az online eszközt, igaz, egyelőre csak angol nyelvű felülettel.
Hasonlóan az Adobe megoldásához, ez sem csak a cég saját AI eszközeivel generált tartalmakat képes beazonosítani. Ugyanúgy leleplezi a más AI megoldások által létrehozott anyagokat is, legalábbis amelyek támogatják a láthatatlan vízjelek használatát. Ebben jelenleg partnerük többek között az OpenAI, az NVIDIA, a Kakao és az Apple is. Mondjuk visszamenőleg nem feltétlenül, csak onnantól, hogy az adott képgeneráló beépíti a vízjelet a kreálmányaiba.
A SynthID Detector használatához nincs szükség semmilyen alkalmazás telepítésére, csak egy böngészőre, így az ellenőrzést Windowson, macOS-en vagy Linuxon egyaránt elvégezhetjük. A folyamat is meglehetősen egyszerű: első lépésként nyissuk meg a SynthID Detector weboldalát, majd jelentkezzünk be egy támogatott fiókkal (például a saját Google fiókunkkal). Ezután feltölthetjük az ellenőrizni kívánt képet, videót vagy hangfájlt. Ehhez a szolgáltatás több elterjedt fájlformátumot támogat, képeknél a JPEG, PNG, WebP és HEIC állományokkal is használható, a videóknál többek között MP4 és MOV, a hanganyagoknál pedig MP3, WAV és M4A fájlokat lehet feltölteni. A megkapott állományt a rendszer megvizsgálja, és megpróbálja megállapítani, hogy található-e benne SynthID-vízjel. Ha igen, akkor természetesen jelzi ezt és azt is, milyen AI megoldással készült az adott tartalom. Ha viszont nem talál megfelelő jelölést, arról is tájékoztat. Mellesleg ez utóbbi eredmény azért nem száz százalékig jelenti azt, hogy nem AI által generált anyaggal van dolgunk, de azért egy fokkal nagyobb lehet a bizonyosságunk.
Most akkor lehet neki hinni vagy sem?
Bár a SynthID remek eszköz lehet a mindennapokban, sajnos nem tekinthető tévedhetetlennek és ennek egyik oka éppen a működési elvéből adódik: alapvetően a digitális vízjeleket keresi, nem pedig a kép, videó vagy hangfelvétel azon tulajdonságait elemzi, amelyek mesterséges előállításra utalhatnának. Így ha a kép-, hang-, vagy videógeneráló nem helyezett ez vízjelet, az jelentősen rontja az azonosítás megbízhatóságát.
Mellesleg a pozitív jelzés esetén sem derül ki vele, hogy a képen pontosan mi készült AI segítséggel, az egész, vagy csak valamilyen részlet módosítása. S persze tartalmilag sem ad semmiféle támpontot, szóval nem ellenőrzi helyettünk, mondjuk egy fotón, hogy az ott látható esemény, személy stb. valós-e.
És csak hogy tovább rontsuk az eszköz nimbuszát, ha egy képet eredetileg vízjelet elhelyező megoldással készítettek, de később különféle módosításokon esett át, lehet, hogy szintén nem sikerül majd leleplezni. Ehhez amúgy több módosítás kell, mint mondjuk egyszerűen átméretezni és új fájlként menteni az eredetit, mert a SynthID technológiát úgy alakították ki, hogy számos hétköznapi képszerkesztési műveletet elviseljen.
Így is nagyon hasznos
Mint látható, akadnak a dolognak korlátai, de szerintünk így is nagyon hasznos. Gondoljunk csak egy közösségi oldalon terjedő, látványos eseményt bemutató felvételre, amelynél ugyan gyanús, hogy valami nem stimmel, de ránézésre mégis rendben van. Ilyenkor a SynthID Detector egy plusz támpontot adhat a gyanúnk igazolásához, vagy épp cáfolásához.
Ma már egészen élethű fotókat, videókat, hangokat lehet előállítani a generatív mesterséges intelligencia segítségével. Ez pedig szükségessé teszi az ehhez hasonló megoldások születését is, hogy aki nem akar minden hülyeségnek bedőlni, amit elé tolnak a közösségi oldalakon, annak legyen lehetősége ellenőrizni ezek valóságtartalmát.
