Chatboty zabiły akademicką gwiazdę

 Chatboty zabiły akademicką gwiazdę

Michaela Mungera 

– 12 stycznia 2023 rCzas czytania: 4 minuty

Wydrukować

FacebookŚwiergotLinkedinPinterestRedditFlipboardE-mailPodziel się

Będąc redaktorem trzech czasopism, mogę powiedzieć, że najtrudniejszą rzeczą, jaką musi zrobić czasopismo, jest znalezienie recenzentów. Tak więc w zeszłym tygodniu zastanawiałem się, jak fajnie byłoby mieć „refbota” (oprogramowanie, które zostało przeszkolone w zakresie tworzenia dobrego, nadającego się do publikacji artykułu), którego mógłby używać jako recenzent. A potem nagle zdałem sobie sprawę, że kontempluję nowy rodzaj osobliwości.

Słowo „osobliwość” pochodzi z łaciny, a następnie z języka francuskiego , co oznacza niezwykłe, wyjątkowe, niepowtarzalne zachowanie. Z naukowego punktu widzenia osobliwość jest horyzontem zdarzeń, którego penetracja skutkuje zawieszeniem lub zaprzeczeniem wszystkich fizycznych reguł rządzących mechaniką, elektromagnetyzmem , właściwie wszystkim.

Z matematycznego punktu widzenia osobliwość jest wtedy, gdy operacja nie jest zdefiniowana . Nie chodzi o to, że nie można tego zrobić, ale raczej o to, że dosłownie nie można tego zdefiniować lub zrozumieć przy użyciu normalnych logicznych reguł przesłanek lub indukcji. Pomyśl „podziel przez zero” lub „odwróć macierz NxN, której ranga K<N”.

Twoja własna osobliwość

Wszystko to może wydawać się dość metafizyczne, a „nie zrozumiałbyś” jest tym, co zawsze mówią naciągacze, zanim poproszą o pieniądze. To nie jest to, co się tutaj dzieje. Mówię o osobliwości, którą wszyscy możemy łatwo zrozumieć: 

• Chatboty AI zaczynają pisać artykuły i wysyłać je do czasopism ( tak się teraz dzieje, ludzie ). Początkowo chatboty były używane przez określonych badaczy do pomocy w pisaniu artykułu, który i tak miał zostać napisany. Ale jest dużo przestojów, a pisanie jest łatwe. 
• Po wysłaniu do czasopisma, refboty, „przeszkolone” dla konkretnego czasopisma poprzez analizę korpusu „dobrych” (wcześniej opublikowanych) artykułów naukowych w tym czasopiśmie, być może zakwaszonych przez inne prace naukowe, których redaktorzy chcą naśladować swoje czasopisma, ocenią zgłoszenia. Refboty będą badać sprzeczności, szukać konsensusu i sprawdzać referencje. (Może to zabrzmieć dość powierzchownie, ale byłoby to lepsze niż około 2/3 ludzkich dzienników recenzentów, które faktycznie można znaleźć, i byłoby to szybkie. Z drugiej strony wydaje się, że być może technologia nie jest jeszcze całkiem gotowa).
• Pętla sprzężenia zwrotnego jest następnie zamykana przez kolejną generację chatbotów, które skanują opublikowaną literaturę i decydują, co jest ważne, cytując tę ​​pracę w następnej rundzie opublikowanych artykułów . Artykuły, które przyciągną najwięcej cytowań od następnej generacji autorów chatbotów i następnej, uzyskają wyższy status w wyszukiwarkach, które zwracają „najlepsze” artykuły do ​​wykorzystania przez badaczy, po tym, jak proces selekcji wyeliminuje żużel.

Zauważ, że „pokolenie” może trwać nie dłużej niż tydzień lub zaledwie kilka sekund, ponieważ uczenie maszynowe staje się coraz szybsze. Nie ma powodu, aby czekać, aż artykuły zostaną „opublikowane” w zwykły sposób, ponieważ system aktualizowałby się dynamicznie, bez jakiegokolwiek pośrednictwa człowieka. Wkrótce wszystkie artykuły w czasopismach akademickich zostaną napisane.

Chatboty potrafią już pisać kiepską prozę , taką, jaką rutynowo publikujemy w „profesjonalnych” czasopismach. A „refbota” można wyszkolić ( choć wydaje się, że nie jest to łatwe ), aby odróżniał artykuły nadające się do publikacji od niepublikowanych. Skandale akademickie, które powstały z fałszywych, bezsensownych zgłoszeń, w tym mistyfikacja Sokola oraz eksperyment Lindsay, Pluckrose i Boghossian „Brievance Studies” , zostały zinterpretowane nieprawidłowo. Wtórne odpowiedzi na publikacje Grievance Studies są bardziej zbliżone do poprawnych: problem polega nie tyle na tym, że można publikować fałszywe badania , ale raczej na tym, że wiele innych prac publikowanych w czasopismach jest faktycznie fałszywych . (Tam sąwiele przykładów przekonujących dowodów , których nie będę dalej omawiać).

Możesz zobaczyć problem: chatboty mogą pisać szybko, ale źle, i mogą produkować zwitki rzeczy, które zapychają dzienniki. Najgorszy problem polega na tym, że jeśli chatboty napiszą wystarczająco dużo, część z nich będzie wyglądać dobrze. To już jest problem w muzyce, gdzie automatyczne dostrajanie i generowane komputerowo melodie i teksty wytwarzają przytłaczające tsunami popowych piosenek. Nie ma znaczenia, że ​​większość jest zła, ponieważ niektóre przebiją się i staną się hitami.

Ale chatboty zabiły gwiazdę akademicką, a dokładniej zabiją profesję akademicką, przynajmniej taką, jaką znamy. Standardowa strategia kariery („napisz i opublikuj całą masę artykułów, nawet jeśli nikt ich nie czyta”) przestanie być opłacalna. Nie jest jasne, czy jest to złe w większości dyscyplin. Stypendium, w przeciwieństwie do badań, może wrócić do mody, co oznacza, że ​​profesor nauczający Szekspira może faktycznie skupić się na tekście Szekspira, a nie na swoich „najnowszych badaniach” na temat kolonialnego zaangażowania Hamleta lub dysforii płciowej. Mówiąc dosadniej, gdy możliwości tworzenia tekstu są nieograniczone, możemy ponownie skupić się na dobrym tekście i powodach, dla których jest dobry.

Złe dla mnie

W tytule tego artykułu stwierdziłem, że chatboty zabiły akademicką „gwiazdę”. Ale myślałam jak zwykle o sobie. Jak wielokrotnie podkreślałem, moją przewagą komparatywną w nauce jest szybkie pisanie; parafrazując Otella: „Jestem tym, który pisał niezbyt mądrze, ale dość szybko”. W środowisku akademickim nie jest konieczne dobre pisanie, a niektóre dobre teksty są nawet postrzegane z podejrzliwością jako niepoważne. Na szczęście (dla mnie) wiele prac naukowych jest złych . Zapisałem nawet kilka sugestii, „jak pisać mniej źle” , a inni powiedzieli, że ta rada była przydatna. (Jeden z komentujących powiedział, że tytuł jest źle napisany; tak, kochanie, o to chodziło!)

Widzę już koniec (mnie) na horyzoncie. Bycie „tym, który pisał niemądrze, ale dość szybko” nie będzie wyróżniać się, nadchodzi osobliwość, ponieważ podmioty GPT4 mogą pisać źle i naprawdę, bardzo szybko. Jasne, tekst będzie musiał zostać zredagowany, a refboty będą potrzebne do oceny między konkurencyjnymi wersjami tego samego konta. Ale moje zalety w robieniu tych rzeczy są znacznie mniej znaczące niż przewaga, którą zawsze miałem w pisaniu (względnie) szybko.