Open AI lanserar verktyg som ska avslöja AI-skapade texter

Kristina Bate Holmberg, Journalist
@uxconnections

Påtaglig oro från lärare efter lanseringen av chattboten Chat GPT har bemötts av grundarna Open AI. Nu har de släppt Open AI Text Classifier som ska avslöja om texten är skriven av en AI-robot eller människa.

Open AI:s Chat GPT är den språkmodellbaserade chattbot, tillika virtuella assistent, som fått störst spridning och synligast rubriker någonsin. Boten släpptes i november under 2022 och började raskt att användas av människor runt hela jordklotet. Rekordsnabbt nådde användarantalet en miljon för att fortsätta öka. Vad kan då Chat GPT göra som lockar så många användare?  

För smart – skarp kritik från lärare

Chattroboten har tränats av maskininlärningstekniker och data från AI-tränare, vilket gett den flera imponerande förmågor. Dels kan den svara på frågor, helst ställda på engelska, med glatt humör. Boten kan även felsöka programmeringskod utan några problem. Förutom att kunna ge svar på raka frågor och felsöka har Chat GPT även förmågan att kunna lösa mer komplexa textuppgifter. Vi talar alltså en förmåga att kunna skapa långa texter. Texter baserade på korta eller något längre frågor eller instruktioner. Exempelvis uppsatser – något som börjat oroa både skol- och universitetsvärlden. Ett AI-medel som kan både svara på frågor och skriva uppsatser bäddar för fusk enligt flera oroliga lärare. Oron om att AI-roboten ska komma att missbrukas har nu bemötts av Open AI som skapat ytterligare ett AI-verktyg.

Osannolikt, oklart eller troligt

Det nya verktyget kallas Open AI Text Classifier och lanserades i slutet av januari i år. Enligt Open AI är detta en preliminär resurs inriktad mot utbildningsväsendet. I viss mån vänder man sig även till journalister, forskare och liknande grupper där plagiering är ett hot. AI Text Classifier är tränat att aktivt kunna skilja mellan AI-skriven och mänskligt skriven text. Precis som med så mycket annan AI har man låtit verktyget gå igenom en stor mängd text publicerad på internet. Utifrån det ska den sedan kunna uppskatta sannolikheten att texten är skriven av en människa eller av AI. Återkopplingen från det avslöjande verktyget ges i intervaller av procentuell sannolikhet. Mindre än tio procent bedöms som väldigt osannolikt. Mellan 45 och 90 procent bedöms som oklart. Hamnar resultatet över 98 procent värderas texten som troligt AI-genererad.

Frivilliga och ofrivilliga brister

Det avslöjande verktyget är naturligtvis inte bara framtaget för att kunna detektera text skapad av Open AI:s egna Chat GPT. Klassificeraren är framtagen för att kunna skilja mellan text skriven av en människa och av AI:s oavsett leverantör/skapare. Microsoft har nämligen precis lanserat en purfärsk söktjänst i samarbete med Open AI med, med en uppdaterad än mer kraftfull version av Chat GPT (läs mer om det på vår hemsida). Därtill handlar det också om att slå hål på myten om att AI-texterna skulle vara skrivna av en människa.

I dagsläget är Open AI Text Classifier långt ifrån komplett. Bristerna är många vilket företaget är måna om att framhäva. Egna undersökningar har visat att endast 26 procent av alla AI-texter upptäcks av klassificeraren. Därtill har företaget lagt in medvetna avgränsningar för att kunna göra en korrekt bedömning. Bland annat måste texten bestå av minst 1000 tecken vilket uppskattas vara mellan 150 och 200 ord.

Hur ser framtidens uppsatser ut? Vem vet. Samtidigt som AI-robotarna är mästare på att lära in saknar de kreativiteten som vi människor har. Det, om någon, är en trygghet. 

UX Connections, the UX design agency with UX/UI consultants to help your digital product succeed.