OpenAI: Vízjel a ChatGPT Szövegekben

Az OpenAI egy éve elkészítette azt a rendszert, amely képes vízjelezni a ChatGPT által generált szövegeket, valamint az azok észlelésére szolgáló eszközt. Azonban a vállalat eddig nem döntött arról, hogy kiadja-e ezt a technológiát – írja a The Wall Street Journal.

A Vízjelezés Működése és Etikai Kérdések

Az OpenAI szerint a rendszer egy olyan észlelhető mintát hoz létre a szövegben, amely ellenáll a manipulálásnak, vagyis az átfogalmazásnak, viszont nem rontja a szöveg minőségét. Azonban a cég szerint a helyzet etikai szempontból bonyolult, mivel naponta több millióan használják a chatbotot munkájukban és tanulmányaik során, és nekik hátrányt jelenthetne a vízjel használata.

Támogatás és Aggályok

Az OpenAI által megrendelt felmérés szerint „az emberek világszerte négy-egy arányban támogatták az MI-felderítő eszközök bevezetésének ötletét”. Ennek ellenére a vállalatnak vannak aggályai. Például sokan megpróbálhatják majd átfogalmaztatni a ChatGPT-szövegeiket, hogy eltűnjön a vízjel, amivel visszaélhetnek a rosszindulatú szereplők. Emellett stigmát is ragaszthat a külföldi nyelveket nem beszélő felhasználókra a fejlesztés.

Financiális Okok és Alternatív Megoldások

A felmérésben résztvevők 30 százaléka azt mondta, hogy kevesebbet használnák a szoftvert, ha vízjel lenne rajta, mert attól tartanának, hogy lebukhatnak munkavégzésük vagy tanulmányaik során. Emiatt az OpenAI azt is teszteli, hogy a metaadatokba rejtene vízjeleket, így kevésbé lenne egyértelmű az eredmény, mégis jelezve lenne a szoftver használata.

A Probléma Megoldásának Kihívásai

A mesterséges intelligencia nemcsak az emberek életét könnyíti meg, de új kihívásokat is teremt. Az oktatásban és a szakmai életben egyaránt komoly aggodalmat kelt az MI által generált tartalmak elterjedése. A szakdolgozatok és egyéb írásbeli munkák esetében a plágium egyre nehezebben felismerhető, mivel az MI által generált szövegek egyre kifinomultabbak. Ez komoly fejtörést okoz az oktatóknak és a munkáltatóknak, akiknek új módszereket kell találniuk a csalás kiszűrésére.

Az OpenAI saját felmérése szerint a felhasználók csaknem 30 százaléka elfordulna a chatbottól, legalábbis kevesebbet használná, ha bevezetnék a vízjelezést. A vállalatnál sokan ennek ellenére is hisznek a módszerben, így más megközelítéseket is mérlegelnek, melyek a felhasználók szemében kevésbé ellentmondásosak, viszont nem bizonyított a hatékonyságuk. Ilyen például a metaadatok beágyazása is, bár ez még csak gyerekcipőben jár, így nem lehet megmondani, mennyire működne jól.