Tvorcovia ChatGPT nechcú značiť text generovaný ich jazykovým modelom. Už na to majú nástroj, ale minimálne posledný rok ho držali pod pokrievkou. Pre niektorých študentov by takáto funkcia bola tragédiou, ale pre školy a učiteľov požehnaním.
Tvorcovia najpokročilejšieho generatívneho modelu umelej inteligencie už viac ako dva roky pracujú na systéme, ktorý dokáže spoľahlivo rozpoznať text vytvorený ChatGPT.
Neviditeľný vodoznak
Podľa The Wall Street Journal je minimálne rok pripravený na spustenie. OpenAI sa však obáva, že príliš veľká transparentnosť bude viesť k odlivu používateľov. Vyplýva to z prieskumu, ktorý medzi nimi uskutočnili.
Výsledok? Takmer tretinu užívateľov by zavedenie takejto technológie odradilo od rozsiahlejšieho používania ChatGPT. Najmä preto, že nástroj má podľa OpenAI 99,9-percentnú úspešnosť.
Okrem biznisových dôvodov OpenAI poukazuje aj na možné nevýhody spôsobené systémom, ktorý označuje text vytvorený ich umelou inteligenciou neviditeľným vodoznakom.
Ilustračné foto. Foto: Unsplash/Levart Photographer
Okrem iného tvrdia, že používatelia, ktorí plynule neovládajú angličtinu, prídu o veľké výhody, ktoré jazykový model prináša.
„Vodoznak textu, ktoré vyvíjame, je sľubný, ale existujú riziká, ktoré teraz zvažujeme a hľadáme alternatívy. Veríme, že premyslený prístup, ktorý sme zvolili, je potrebný vzhľadom na zložitosť a pravdepodobný vplyv mimo OpenAI,“ uviedol hovorca spoločnosti.
Študenti sú v pozore
Najväčšou skupinou, nad ktorou značenie textu od ChatGPT krúži ako sup, sú študenti. Schopnosť systému OpenAI vygenerovať esej alebo seminárnu prácu mnohým uľahčuje štúdium, zatiaľ čo vyučujúci sú na rozpoznávanie generatívneho AI zvyčajne prikrátki.
Skôr sa učia, ako s novou technológiou žiť. „Myslíme si, že by nemalo zmysel zakazovať študentom používať umelú inteligenciu, pretože realita je taká, že mnohí ju už využívajú,“ povedal dávnejšie pre Forbes Česko Jakub Havlíček, koordinátor skupiny AI a metodik výukových inovácií na Masarykovej univerzite.
O tom, že nejde len o paniku spiatočníckych pedagógov, svedčí experiment, v ktorom ChatGPT dokázal prejsť prvým ročníkom Harvardu. S výbornými známkami a splneným zápočtom dopadol lepšie ako väčšina študentov.
„Odhaliť a najmä dokázať zneužitie generatívnej umelej inteligencie je na rozdiel od bežného plagiátorstva v praxi veľmi ťažké a v konečnom dôsledku môže závisieť od toho, či sa žiak prizná alebo nie,“ povedal Havlíček.
Sam Altman je zdržanlivý
Kým doteraz mali univerzity k dispozícii systémy tretích strán a výzvy na poctivé štúdium, nástroj od OpenAI by sa stal účinným bičom na tých, ktorí ChatGPT využívajú k podvádzaniu.
OpenAI zatiaľ spustil technológiu len pre modely generujúce obrázky alebo videá, údajne hlavne kvôli možnosti zneužitia v prebiehajúcej prezidentskej kampane v Spojených štátoch.
Flickr/TechCrunch
Sam Altman, šéf OpeinAI. Foto: Flickr/TechCrunch
Podľa interných zdrojov z OpeinAI šéf spoločnosti Sam Altman a technická riaditeľka Mira Murati podporujú vývoj nástroja, ale ani oni sa neponáhľajú s jeho vypustením.
Jeden pokus za sebou už majú: v januári 2023 zverejnili algoritmus, ktorý mal odhaliť text vytvorený akoukoľvek umelou inteligenciou.
Spoločnosť ho stiahla po tom, ako sa ukázalo, že je úspešný len v 26 percentách prípadov.
Značenie neviditeľným vzorcom
Ako „vodoznak“ funguje? Názov metódy je zavádzajúci: nepredstavujte si klasický vodoznak, ktorý sa používa na zabránenie neoprávneného použitia fotografií.
Jednoducho povedané, vodoznak textu vzniká samotným výberom slov, slovných spojení a poradím. Pomocou štatistickej pravdepodobnosti je systém schopný zistiť, že text napísala umelá inteligencia.
Model umelej inteligencie ChatGPT predpovedá, ktoré slovo alebo jeho časť, medzi vývojármi známe ako token, má v generovanej vete nasledovať.
Utajovaný nástroj od OpenAI by mierne zmenil spôsob, akým algoritmus tokeny vyberá: výsledkom by bol pre ľudí nerozpoznateľný vzorec, ktorý detekčný systém dokáže rozoznať. A vodoznak je na svete.
Podľa The Wall Street Journal sa OpenAI obáva, že by mohlo byť príliš jednoduché obísť metódu označovania. Môže stačiť napríklad vloženie do pokročilého prekladača z jedného jazyka do druhého a späť.
Rovnako by fungovala metóda, v ktorej necháte ChatGPT pridať emoji do textu a potom ho ručne vymažete, čím by sa nenávratne porušil detekovateľný vzorec.
Batman medzi riadkami
Niektorí vysokoškolskí profesori a pedagógovia sa snažia študentov používajúcich ChatGPT prekabátiť. Josh McCrain, profesor na univerzite v Utahu, im poslal e-mailom zadanie na esej. Do inštrukcií malým neviditeľným textom zakomponoval pokyny, aby súčasťou práce boli nezmyselné odkazy na Batmana.
Výsledok neprekvapil: vrátilo sa mu niekoľko esejí z politológie s odkazom na netopierieho muža z Gothamu. Okrem toho McCrain odporúča sústrediť výučbu na aktuálne svetové udalosti, s čím má ChatGPT pri limitovanej časovej databáze tréningových dát problém.
Foto: ChatGPT
Foto: ChatGPT
Označenie obsahu vytvoreného vlastným systémom, aký vyvíja OpenAI, už zaviedla spoločnosť DeepMind, dcérska spoločnosť Microsoftu, ktorá sa zameriava na generatívne modely umelej inteligencie.
DeepMind tajne označuje nielen generovaný text, ale aj video alebo audio. Rovnaký systém používa aj spoločnosť Google pre umelú inteligenciu Gemini AI.
Autorom tohto článku je Michal Bernáth z Forbes Česko.
