Az AI, azaz mesterséges intelligenciával készült fotók veszélyei

Több kertes és házfelújítós, valamint tudományos csoportban vagyok benne Facebookon, ott is megszaporodtak a mesterségesen generált fotók. Ennél fontosabb a politikai, társadalmi posztoknál, cikkeknél, gondoljunk az amerikai elnököt vagy a pápát ábrázoló fotókra. Nagyon sokan elhiszik, hogy valódiak.

Kisebb gond, ha virágot, cicát, házat látunk valósnak, az szimplán csak megtévesztés. Anyagi, erkölcsi kára senkinek sem származik belőle, maximum bosszantó. Ami igazán veszélyes, az adatvédelem és a biztonság kérdése. Az AI által generált fotók komoly erkölcsi, politikai és anyagi dilemmákat vetnek fel, képesek egy-egy eseményt úgy bemutatni, mintha valóban megtörtént volna, egy személyt úgy ábrázolni, amilyen helyzetben és helyen sosem volt. Sérthetik mások személyiségi jogát, mert olyan adatok kerülhetnek nyilvánosságra - vagy ellenkezőleg olyan adatokról hihetik mások, hogy nyilvánosságra került, pedig nem! -, amelyek ismert emberek, de akár országok sorsára is hatással lehetnek.

Néhány példa, milyen jelek alapján gyanakodhatunk, hogy egy AI generálta fotót látunk:

- Ismétlődő részletek: Jellemző ha kitölteni kell helyeket, például futórózsa házfalon, gyönyörű, de közelebbről látod, hogy egy részletet sokszor bemásol a program, pontosan ugyanúgy helyezkedik el 5-6 virágfej. Ezt használják például, ha tömeget kell szimulálni, ez filmeken teljesen rendben van, azonban ha azt akarják mutatni, mennyien voltak egy tüntetésen... a jó és a rossz cél, nem mindegy!

- Hibák: Sajnos egyre kevesebb hibát vét az AI, mivel folyamatosan tanul, de el lehet csípni, például több ujja van egy embernek, részletek torzan, meghajlott ívben vagy beleolvadva egy háttérbe – amik Photoshop hibák gyakorlatlan kezekben, azok jellemzők itt is. Konkrét példát mondok, amit tegnap láttam. Egy nő kért felújítás utáni képet a házára, ami előtt ott áll kisgyerekkel. Nos, az AI ezzel nem tudott megbirkózni, a felújított ház előtt ugyanis egy virágtartó lett belőle – farmerban. :) Okulásul kitette a csoportba az előtte-utána képeket.

- Ellenőrző programok: Léteznek már oldalak és böngésző kiegészítők, amelyek helyettünk ellenőriznek egy fotót. Például ilyen az AI or Not, vagy az IS it AI? nevű oldalak, utóbbit kipróbáltam: https://isitai.com/ai-image-detector, egyértelműen felismerte a nadrágos kaspós ház fotót feltöltés után, hogy mesterséges kép.

- Vízjel: Egyes nagy cégek, az OpenAI, Meta, Amazon már bemutattak olyan eljárásokat, amivel egy emberi szemnek láthatatlan, digitális vízjel kerül az AI fotókra, beazonosíthatóvá és visszakövethetővé teszik őket, a Google kísérletként használja, azonban ez se jelent 100%-os biztonságot. Egyrészt a másik oldalon vannak azok a felhasználók, akiknek nem érdeke ez, másrészt a felhasználók nagy része nem tudja, vagy akarja ellenőrizni a képeket.

Fontos lenne, hogy az AI-alapú fotós programok fejlesztői lépéseket tegyenek az adatvédelmi intézkedések és a képek megkülönböztetését illetően, és persze az is, hogy az internet felhasználókat tájékoztassák a veszélyekről, cikkekben, Facebook bejegyzésekben.