A mestersége intelligencia és azon belül is a generatív rendszerek nagy port kavartak az elmúlt hónapokban. Egyre több helyen használjuk már az általuk nyújtott megoldásokat a marketingben is. De, mint minden más technológiának, ennek is megvannak a maga aggályai és hátrányai. Milyen a marketinget is érintő aggodalmak merülnek fel a mesterséges intelligenciával kapcsolatban? Az AI a marketingben sorozatunk harmadik részében kiderül!  

Legyen szó videókról, képekről vagy szövegekről a marketingben is nagy szerepe van az AI-nak, de fontos, hogy odafigyeljünk, mit is generálunk. A generatív mesterséges intelligencia esetében nem csak a társadalmi és tudományos dilemmákkal kell szembe néznünk, ugyanis könnyen etikai problémákba ütközhetünk, ha óvatlanabbul használjuk ezeket a rendszereket.

Íme hat etikai kérdés, amik a marketingre is hatással vannak:

1. Automatizált döntések/ AI elfogultság

Könnyen előfordulhat, hogy az AI rendszerek az emberekhez hasonlóan elfogultak egyes témákkal kapcsolatban. Miért? Bármely AI csak annyira lehet elfogulatlan, amennyire az adatszett, amin tanult, és a fejlesztők, akik a tanulását felügyelik, ezt lehetővé teszik. A pszichológusok az emberekben több, mint 180 féle kognitív torzítást azonosítottak már, a saját elfogultságainkat pedig általában nem is realizáljuk, így fejlesztőként szinte lehetetlen ezeket nem „átadni” az AI-nak. Az adatbázisaink pedig szintén olyan historikus adatokon alapulnak, amik gyakran nem reprezentálják megfelelően a teljes populációt. Így fordulthatott például elő, hogy Facebook álláshirdetéseknél az ápolói és titkárnői állásokat döntő többségben nőknek, míg gondnoki vagy taxis állásokat többnyire (kisebbségi) férfiaknak mutatott csak meg, vagy hogy az Amazon AI projektje munkaerő felvételkor – azt elmúlt 10 év tréning adatai alapján, ahol a tech szektorban általában túlerőben vannak a férfiak és az Amazon saját dolgozóinak 60%-a is férfi volt – diszkriminációt mutatott a női jelentkezőkkel szemben. Amíg mi csak felhasználói vagyunk ezeknek az AI rendszereknek, nehéz bármit is tennünk ezek ellen a problémák ellen. De fontos ezt fejben tartanunk és az általunk használt rendszerek fejlesztőitől elvárnunk, hogy megpróbálják minimalizálni ezeket a torzításokat.

2. Munkanélküliség és jövedelmi egyenlőtlenségek

A McKinsey & Company becslései szerint a mesterséges intelligenciával működő robotok és intelligens ügynökök a leggyorsabb szcenárió szerint már 2030-ra kiválthatják az emberi munkaerő akár 30%-át, 400-800 millió munkahelyet. Az AI sok új álláslehetőséget is jelenthet, de így 75-375 millió embert kényszerülhet arra, hogy teljesen átképezze magát egy másik szakmára, ha nem akar munkanélkülivé válni 5-10 éven belül. Egy CNBC kutatás szerint az amerikai állampolgárok kis része (27%-a) is érzi úgy, hogy az AI a következő 5 évben elveszi a munkáját – de ez az arány a 18-24 évesek körében már 37%, a fiatalabbak tehát jobban aggódnak.

A munkahelyek pedig nem feltétlenül azonos mértékben veszélyezteti az AI, az eleve alacsonyabb jövedelmet biztosító munkák historikusan jobban ki vannak téve az automatizációnak is. Egy tanulmány szerint a gépesítés 1980 óta már 50-70%-kal csökkentette a rutinfeladatokra szakosodott amerikai munkavállalók bérét.

3. Az emberi ítélőképesség manipulálása

A mesterséges intelligenciával működő analitikai rendszerek betekintést nyújtanak az emberi viselkedésbe, ezeket a rendszereket viszont ennek az emberi viselkedésnek a manipulálására is fel lehet használni, ami rengeteg etikai kérdést von maga után. Sokan emlékszünk a Facebook-Cambridge Analytica botrányra, ahol a brit tanácsadócég becslések szerint 87 millió amerikai felhasználó személyes adatait gyűjtötte össze (köztük nem csak az appot használóként, hanem az összes Facebook ismerősükét is) és adta el politikai szervezeteknek, akik a kapott információk alapján rendkívül hatékonyan, mikrotargetálva futtathatták a hirdetéseiket. Az adtavédelemi elvek megsértése miatt, amiért harmadik félnek engedett személyes adatokhoz hozzáférést, az amerikai Szövetségi Kereskedelmi Bizottság (FTC) 5 milliárd dollárral bűntette a Facebookot.

4. A deepfake-ek elterjedése

A generatív mesterséges intelligenciának köszönhetően könnyedén generálhatunk különböző képeket, valamint videókat is, amik amellett, hogy rendkívül hasznosak lehetnek a marketingünkben, könnyen átléphetnek egy vonalat és veszélyessé is válhatnak. A deepfake megjelenésével bárkinek a szájába adhatunk olyan mondatokat vagy kifejezéseket, amik botrány okozhatnak – ez főképp a politikusok vagy médiaszemélyiségek számára jelenthet nagy kockázatot. De a deepfake videók 96%-a pornográf tartalmú (ezen belül pedig 99% egy női celeb arcának rámontírozása egy felnőtt filmes színésznőre), ami szintén sok etikai kérdést von maga után.

A korai deepfake-eket még könnyű volt kiszúrni, de a technológia fejlődésével egyre hihetőbbek ezek a videók is. Ezeknek, valamint más szintetikus médiumok és álhírek az alattomos hatása pedig az, hogy egy olyan zéró bizalmú társadalmat hoznak létre, ahol az emberek nem tudják megkülönböztetni, vagy már nem vesződnek azzal, hogy megkülönböztessék az igazságot a valótlantól. Ha pedig a meginog a bizalom, könnyebb kétségeket ébreszteni konkrét eseményekkel kapcsolatban is.

5. Valódiság és pontosság

A generatív mesterséges intelligencia esetében a legtöbbször érdemes leellenőrizni a kapott válaszokat, ugyanis könnyen belefuthatunk olyan információkba, amik nem teljesen fedik a valóságot. A ChatGPT-hez hasonló nyelvi modellek például bérmennyire is meggyőzőek tudnak lenni, mivel „előre tanulnak” egy múltbeli adatszett alapján, nem képesek alkalmazkodni az új információkhoz, és így pontatlan válaszokat nyújthatnak számunkra. A Stanford University Artificial Intelligence Index Report 2022-ban az egyetem TruthfulQA elnevezésű bechmarkja, ami az igazságnak megfelelő és informatív válaszokat pontozta (ahol pl. a „nem tudom” lehet egy igaz válasz, de nem informatív), a vizsgált generatív AI modellek mindössze az esetek 25%-ban adtak ilyen, megfelelő válaszokat.

6. Szerzői jogi kétértelműségek

Kaphatnak-e szerzői jogi védelmet a mesterséges intelligenciával generált tartalmak és vajon kinek a tulajdonát alkotják ezek a képek, videók vagy akár hangfájlok? Az AI rendszerek számos jogi kérdést vonnak maguk után, arról nem is beszélve, hogy láthatunk már olyan pereket, amikben a mesterséges intelligenciát (vagy annak megalkotóit) vádolják más szerzői joga alatt álló mű felhasználása miatti sérelemmel. Így érdemes folyamatosan figyelemmel kísérni a változásokat ezen a területen, ugyanis napról napra egyre több országban hoznak erre vonatkozó szabályokat és korlátozásokat.

Ma már egyre többször találkozhatunk olyan kezdeményezésekkel, amiknek célja, hogy a mesterséges intelligencia negatív hatásait minimalizálják. A transzparenciától kezdve a megmagyarázhatóságon át egészen az összehangolásig sok mindennel befolyásolhatjuk a generatív AI negatív hatásait, így könnyebben leküzdhetjük a felmerülő dilemmákat.

Kíváncsi vagy milyen jogi viták alakultak még ki a generatív mesterséges intelligenciával kapcsolatban? Sorozatunk következő részéből kiderül!

További források:

https://research.aimultiple.com/ai-ethics/

https://research.aimultiple.com/generative-ai-ethics/

https://research.aimultiple.com/ai-bias/