OpenAI, firma badawcza AI stojąca za ChatGPT, wydała nowe narzędzie — AI Text Classifier — które pomaga odróżnić tekst generowany przez AI od tekstu generowanego przez człowieka. Narzędzie ma na celu zmniejszenie liczby fałszywych twierdzeń o ludziach piszących treści generowane przez sztuczną inteligencję (AI). Zgodnie z ogłoszeniem może to ograniczać możliwość automatycznego uruchamiania kampanie informacyjne o błędach, wykorzystywanie narzędzi sztucznej inteligencji do popełniania oszustw akademickich oraz wykorzystywanie chatbotów do podszywania się pod ludzi. Chociaż nie było w stanie wykryć tekstu napisanego przez sztuczną inteligencję ze 100-procentową dokładnością, po przetestowaniu zestawu tekstów w języku angielskim narzędzie poprawnie oceniło, czy tekst został napisany przez sztuczną inteligencję w 26 procentach przypadków. Jednak błędnie uważano również, że tekst napisany przez człowieka został napisany przez sztuczną inteligencję w 9% przypadków. OpenAI przyznaje, że jego narzędzia działają lepiej z dłuższym tekstem, dlatego do uruchomienia testów wymagane jest co najmniej 1000 znaków.
Nowy klasyfikator tekstu AI OpenAI jest potężnym narzędziem, ale ma pewne ograniczenia. Na przykład może błędnie oznaczać tekst wygenerowany przez sztuczną inteligencję, jak również tekst napisany przez człowieka, a drobne zmiany mogą pomóc tekstowi wygenerowanemu przez sztuczną inteligencję uniknąć klasyfikatorów. Ponadto został przeszkolony głównie w zakresie treści w języku angielskim napisanych przez dorosłych i może nie być tak niezawodny w przypadku tekstu napisanego przez dzieci lub w językach innych niż angielski.
Aby samodzielnie przetestować OpenAI Text Classifier, przejdź do platform.openai.com/ai-text-classifier, wklej tekst, który chcesz ocenić, i kliknij Prześlij. Narzędzie oceni, jakie jest prawdopodobieństwo, że tekst został wygenerowany przez sztuczną inteligencję, w skali od bardzo mało prawdopodobnego do prawdopodobnego lub prawdopodobnie niejasnego — a wszystko to w ciągu kilku sekund! Aby zilustrować ten punkt, przetestowałem zdolność ChatGPT do wygenerowania artykułu o SEO i przesłania go dosłownie do klasyfikatora; pomyślał, że artykuł mógł zostać wygenerowany przez sztuczną inteligencję. OpenAI opracowało narzędzie o nazwie AI Text Classifier, które ma na celu rozróżnienie między tekstem pisanym przez człowieka a tekstem generowanym przez AI. Wyniki ze stycznia 2023 r. (https://platform.openai.com/ai-text-classifier){rel="nofollow"} ilustrują ograniczenia narzędzia, ponieważ nie można stwierdzić z dużą dozą pewności, że ChatGPT wygenerował tekst, który jest napisany przez sztuczną inteligencję. Jednak stosując drobną zmianę sugerowaną przez Grammarly, obniżyłem ocenę z Może do Niejasne. OpenAI słusznie wskazuje, że łatwo jest ominąć klasyfikator, ale nie jest to jedyny dowód, który określa, czy dokument został wygenerowany przez AI (https://platform.openai.com/faq#what_is_the_intended_use_of_the_tool){rel=“nofollow” }. OpenAI dodał, że narzędzie nie zostało dokładnie przetestowane pod kątem wykrywania treści zawierających kombinację sztucznej inteligencji i tekstu ludzkiego, dlatego zalecają poleganie na innych źródłach przy ustalaniu, czy dokument został napisany przez sztuczną inteligencję, czy przez ludzi.
Klasyfikatory tekstu AI to potężne narzędzia do identyfikowania potencjalnego tekstu generowanego przez AI. Należy jednak zauważyć, że klasyfikatorów nie należy używać jako miary decydującej przy podejmowaniu decyzji. Zamiast tego może zapewnić przydatny wgląd w to, ile tekstu mógł wygenerować program AI.