Fremskridt inden for kunstig intelligens er utrolige. Vi ved stadig ikke, hvor grænserne kan gå, og hvis det en dag bliver fuldstændig umuligt at skelne en skabelse lavet af en AI fra en menneskelig i emner som tekster eller kunst.
Indtil den hypotese kommer, hvor grænserne mellem skabelsen af den ene og den anden vil udviske, hvad vi kan gøre nu, er at prøve at finde ud af, om en tekst er skrevet af et menneske eller af en AI.
Registrer tekst skrevet af AI
OpenAI har udgivet en AI-tekstklassificering, der forsøger at opdage, om inputindhold blev genereret ved hjælp af kunstig intelligensværktøjer som ChatGPT. "AI-tekstklassificeringen er en tilpasset GPT-model, der forudsiger sandsynligheden for, at en AI har genereret en tekst fra en række forskellige kilder, såsom ChatGPT," forklarer et nyt OpenAI blogindlæg.
OpenAI lancerede værktøjet, efter at adskillige universiteter og skoledistrikter forbød virksomhedens populære AI-drevne chatbot, ChatGPT, på grund af dets evne til at komplet elev opgaver, såsom at skrive boganmeldelser, essays og endda færdiggøre opgaver. programmering.
Betjeningen er ret enkel. Du skal simpelthen gå til webstedet for dette verifikationsværktøj og log ind eller registrer dig (din konto fungerer, hvis du bruger ChatGPT). Herefter skal du indsætte den tekst, du vil verificere, og værktøjet vil returnere et resultat, der siger, om det sandsynligvis er skrevet af en AI eller et menneske.
"Ikke 100% pålidelig," advarer OpenAI
Da undervisere sandsynligvis vil bruge dette nye AI-tekstbekræftelsesværktøj til at kontrollere, om elever har snydt på deres tildelte opgaver, advarer OpenAI om, at det ikke bør bruges som den "eneste test" til at fastslå akademisk uærlighed.
"Vores klassificering er ikke helt pålidelig. I vores vurderinger af et 'udfordringssæt' af engelske tekster, er vores klassificerer identificerer 26 % af AI-skrevet tekst korrekt (sande positive) som 'sandsynligvis AI-skrevet', mens man forkert mærker menneskeskreven tekst som en 9% skrevet af AI (falske positive). Pålideligheden af vores klassifikator forbedres generelt, efterhånden som længden af inputteksten øges. Sammenlignet med vores tidligere udgivne klassificeringsanordning er denne nye klassificeringsanordning betydeligt mere pålidelig i teksten til de nyeste AI-systemer."
Derudover har de delt en række begrænsninger så brugen af tekstklassifikatoren kan ske på den mest effektive måde.
- Klassificeringen er meget upålidelig på korte tekster (mindre end 1,000 tegn). Selv de længste tekster er nogle gange forkert mærket af klassificereren.
- Nogle gange vil klassificereren forkert mærke menneskeskreven tekst som AI-skrevet.
- Det anbefales kun at bruge klassificeringen til engelsk tekst. Det virker væsentligt dårligere på andre sprog og er upålidelig i kode.
- Tekst, der er meget forudsigelig, kan ikke identificeres pålideligt. For eksempel er det umuligt at forudsige, om en liste over de første 1,000 primtal er skrevet af AI eller af mennesker, fordi det rigtige svar altid er det samme.
- AI-skrevet tekst kan redigeres for at omgå klassificeringen. Klassifikatorer kan opdateres og genoptrænes baseret på vellykkede angreb, men det er uklart, om detektion har en langsigtet fordel.
- Neurale netværksbaserede klassifikatorer er kendt for at være dårligt kalibrerede uden for deres træningsdata. For input, der er meget forskellige fra teksten i træningssættet, er klassificereren nogle gange meget sikker på en forkert forudsigelse.
