Pokrok v umělé inteligenci je neuvěřitelný. Stále nevíme, kde mohou být hranice a pokud jednoho dne bude zcela nemožné odlišit výtvor vytvořený umělou inteligencí od lidského v předmětech, jako jsou texty nebo umění.
Dokud nedojde k hypotéze, v níž se hranice mezi výtvory jednoho a druhého rozostřou, můžeme nyní zkusit zjistit, zda text napsal člověk nebo umělá inteligence.
Detekce textu napsaného umělou inteligencí
OpenAI vydala textový klasifikátor AI, který se snaží zjistit, zda byl vstupní obsah generován pomocí nástrojů umělé inteligence, jako je ChatGPT. „AI Text Classifier je přizpůsobený model GPT, který předpovídá pravděpodobnost, že AI vygenerovala text z různých zdrojů, jako je ChatGPT,“ vysvětluje nový příspěvek na blogu OpenAI.
OpenAI spustilo tento nástroj poté, co řada univerzit a školních čtvrtí zakázala oblíbeného chatbota společnosti založeného na umělé inteligenci, ChatGPT, kvůli jeho schopnosti úplný student úkoly, jako je psaní recenzí knih, esejů a dokonce i plnění úkolů. programování.
Obsluha je celkem jednoduchá. Jednoduše musíte jít do webové stránky tohoto ověřovacího nástroje a přihlaste se nebo se zaregistrujte (pokud používáte ChatGPT, váš účet bude stačit). Poté budete muset vložit text, který chcete ověřit, a nástroj vrátí výsledek, který říká, zda byl pravděpodobně napsán AI nebo člověkem.
„Není 100% spolehlivé,“ varuje OpenAI
Vzhledem k tomu, že pedagogové budou pravděpodobně používat tento nový nástroj pro ověřování textu AI ke kontrole, zda studenti při zadaných úkolech nepodváděli, OpenAI varuje, že by neměl být používán jako „jediný test“ k určení akademické nepoctivosti.
"Náš klasifikátor není zcela spolehlivý." V našem hodnocení „souboru výzev“ anglických textů náš klasifikátor správně identifikuje 26 % textu napsaného umělou inteligencí (skutečné pozitiva) jako „pravděpodobně AI-written“, zatímco text psaný člověkem je nesprávně označen jako 9 % napsaný AI (falešně pozitivní). Spolehlivost našeho klasifikátoru se obecně zlepšuje s rostoucí délkou vstupního textu. Ve srovnání s naším dříve vydaným klasifikátorem je tento nový klasifikátor výrazně spolehlivější v textu nejnovějších systémů umělé inteligence.“
Navíc se podělili řadu omezení tak, aby použití textového klasifikátoru bylo možné provést co nejefektivněji.
- Klasifikátor je u krátkých textů (méně než 1,000 znaků) velmi nespolehlivý. I ty nejdelší texty jsou někdy klasifikátorem špatně označeny.
- Někdy klasifikátor nesprávně označí text psaný člověkem jako psaný umělou inteligencí.
- Klasifikátor se doporučuje používat pouze pro anglický text. V jiných jazycích funguje výrazně hůře a v kódu je nespolehlivý.
- Text, který je vysoce předvídatelný, nelze spolehlivě identifikovat. Je například nemožné předpovědět, zda seznam prvních 1,000 prvočísel napsala umělá inteligence nebo lidé, protože správná odpověď je vždy stejná.
- Text napsaný AI lze upravit tak, aby se vynechal klasifikátor. Klasifikátory lze aktualizovat a přeškolit na základě úspěšných útoků, ale není jasné, zda má detekce dlouhodobou výhodu.
- Je známo, že klasifikátory založené na neuronových sítích jsou mimo jejich trénovací data špatně kalibrovány. U vstupů, které se velmi liší od textu v trénovací sadě, je klasifikátor někdy velmi jistý v nesprávné predikci.
