OpenAI vytvořilo detektor ChatGPT obsahu, bojí se ho však použít
OpenAI má hotový detektor textu vytvořeného AI, ale bojí se ho vydat kvůli obavám o jeho spolehlivost a spravedlnost. Navíc zákazníci hrozí, že by kvůli němu přešli ke konkurenci.
OpenAI vyvinula metodu textového vodoznaku pro identifikaci obsahu vytvořeného pomocí ChatGPT. Tento nástroj, podle interní dokumentace, má až 99,9% účinnost. Přesto společnost váhá s jeho nasazením, protože existují obavy, že by mohl být zaujatý vůči autorům, kteří nejsou rodilými mluvčími angličtiny. Dále tuto techniku lze snadno obejít pomocí překladačů nebo drobných změn v textu.
Další problém spočívá v možnosti reverzního inženýrství nástroje, což by mohlo vést k vytvoření metod pro neutralizaci detekční technologie. OpenAI také bere v úvahu zpětnou vazbu od uživatelů ChatGPT, z nichž 69 % se obává falešných obvinění z podvádění. Navíc 30 % uživatelů uvedlo, že by kvůli tomu pravděpodobně přešli ke konkurenční AI generativní technologii.
OpenAI se snaží najít rovnováhu mezi ochranou proti podvádění pomocí AI a zachováním důvěry uživatelů. Minulé pokusy o detekci AI generovaného textu měly problémy s nízkou úspěšností a falešnými poplachy. Přesto existuje velká globální poptávka po spolehlivém detektoru AI, což potvrzují interní průzkumy, kde 80 % respondentů podporuje jeho zavedení. Společnost proto zvažuje alternativní metody k textovému vodoznaku, aby vyhověla oběma stranám - potřebu detekce AI obsahu a obavy uživatelů.
