Andrzej Dragan i fabryka strachów

Disclaimer: jeśli masz jakieś źródła, wywiady, czy argumenty, które udowadniają, że Dragan naprawdę jest wartościowym specjalistą od AI i jego wizje są czymś więcej niż wróżeniem z fusów wyślij mi maila: a.fricze@pm.me lub napisz na Linkedin.

Andrzej Dragan jest fizykiem. Zajmuje się też fotografią i muzyką. Brawo. No to czemu, patrząc po ilości wywiadów na YouTubie, został ostatnio uznany za specjalistę od AI?

Bo odważnie rzuca dramatycznymi hasłami? Że nie rozumiemy jak działa AI? Że każdy kto twierdzi, że rozumie działanie LLMów udowadnia, że właśnie nie rozumie? Że nie wyobraża sobie jak ludzkość miałaby wyjść zwycięsko ze „starcia z AI”?

Też mogę rzucać hasła: nigdy więcej żaden malarz nie namaluje nic wartościowego bo AI zabije naszą kreatywność. Lećmy mocniej. Za 50 tysięcy za występ mogę głośno powiedzieć, że seks-roboty sprawią, że znikną wszelkie fizyczne relacje między ludźmi. Umiem mówić głośno i wyraźnie (raczej nie seplenię) także będzie to naprawdę dobrze wydane 50 tysięcy.

Na @Przeprogramowanych spadła krytyka, kiedy w swoim podcaście podważali opinie Dragana. Może tym bardziej powinienem uważać? Muszę przyznać – krytykowanie Dragana mówiącego o AI jest trudne. W dużej mierze dlatego, że gada dużo i szybko i dość ogólnie. Kreuje fatalistyczne wizje przyszłości prawie bez zająknięcia.

Tylko po co? Na czyj użytek? Łatwo powiedzieć, że skoro ChatGPT może wygenerować kawałek kodu potrzebnego do trenowania sieci neuronowej to zaraz zastąpi programistów. Ale robota programisty to nie tylko klepanie kodu. Kod klepiesz jak piszesz bibliotekę, albo stawiasz architekturę nowej aplikacji. Potem są dyskusje, utrzymanie, testowanie, zmiana wymagań, dodawanie modułów, dokumentacja, przenoszenie na nową infrastukturę, dzielenie na mniejsze serwisy, albo zbieranie serwisów w monolit. Jeszcze przepisywanie integracji bo używany serwis do płatności upadł, albo wprowadził nowy model abonamentowy, którego opłacanie zabije cały biznes. Pisanie kodu to jedno, zrozumienie i utrzymanie to drugie.

Może się mylę. Może niedługo powstaną serwisy AI-based, które obsłużą utrzymywanie, refaktory i dyskusje z biznesem. Tylko one wymagają wytrenowania, wdrożenia i je też ktoś musi utrzymywać. Żółwie aż do samego końca. Poza tym, takie agenty AI muszą się nauczyć jak reagować na konkretne błędy systemów. Kiedy wystarczy respawn VMki a kiedy potrzebne jest przepisanie integracji z zewnętrznym serwisem bo właśnie zmienił API i z tego powodu strona główna Twojej aplikacji sypie 500kami?

Co jeszcze? „Ja w zasadzie już teraz nie muszę Pythona znać”? Nie znam żadnego programisty, który by mi powiedział, że nie musi już pisać kodu w pracy bo wszystko robi za niego AI.

Łatwo jest powiedzieć, że pomysł na dochód gwarantowany nie może się udać ponieważ „pieniądze biorą się z pracy, nie z drukarki”. Tak samo łatwo nie zwrócić uwagi, że ta wypowiedź nie ma większego sensu. Dobrobyt, towary, usługi – rzeczywiście biorą się z pracy. Pieniądze, akurat, biorą się z drukarki (ok, nie z drukarki tylko z komputera). Pomysł, żeby kontrolować społeczeństwo przez kontrolę przepływu pieniędzy ma wiele tysięcy lat. Nie jestem fanem dochodu gwarantowanego, ale zamykanie dyskusji prostym „pieniądze biorą się z pracy” nie jest mądrą odpowiedzią. Jest szybkim uproszczeniem za które można dostać pochwały w komentarzach na YouTubie.

Łatwo jest powiedzieć, że AI jest „gatunkiem”, który zdominuje ludzkość. Tylko fajnie byłoby to jakoś rozsądnie wytłumaczyć. W jakim sensie nas zdominuje? W jaki sposób ten, powstający właśnie, Ultron odbierze nam zasoby? Czy chodzi o to, że postępująca automatyzacja sprawi, że wielu ludzi straci pracę? Czy naprawdę powstaje „nowy gatunek”, który będzie z nami walczył? I jak będzie walczył? Jeśli prof. Dragan wie jak, może warto byłoby podzielić się tą wiedzą z ludźmi, żebyśmy wiedzieli jak się bronić? Chociaż po co? W wywiadzie dla WSB Merito Warszawa wypowiadał się, że na ludziach niezbyt mu zależy.

Dragan argumentuje swoje fatalistyczne tezy pokazując jak to ChatGPT w wersji 4 posiada „głębokie zrozumienie praw fizyki” bo jest w stanie rozwiązać jego zagadkę w której trzeba przeanalizować co się stanie z kulką trzymaną w kubku. Tylko tak samo łatwo jest udowodnić, że ten sam GPT w wersji 4 gubi się kiedy musi przeprowadzić niezbyt skomplikowane logiczne rozumowanie (tak jak w przykładzie ze zwierzętami idącymi nad rzekę). Barda dość łatwo przekonać, że Barack Obama nie ma męskich narządów rozrodczych, a nawet się nie starałem. Nie wystarcza mi machanie rękami, głos pełen pewności i przenikliwe spojrzenie.

Zupełnie nie ruszają mnie pomysły, że stworzymy gatunek, który będzie tak sprytny, że uzna, że żeby spełnić swoje wyższe cele musi wybić połowę ludzkości. To nie są nowe pomysły. Ludzie naprawdę nie potrzebują AI, żeby wymyślać najrozmaitsze horrory a potem, z zaciętością godną lepszej sprawy, wprowadzać je w życie. Tak samo nie robi na mnie wrażenia sztuczka z AI, które dostało dostęp do konta bankowego i było w stanie wynająć sobie ludzi na Fiverze, żeby klikali za nie „nie jestem robotem”. Dostało taki cel to taki cel wykonało. So what? Wciąż jestem za głupi, żeby zobaczyć tę głębię, tę niebezpieczną magię AI którą widzi Dragan.

Dragan w wywiadach pokazuje „niesamowite przykłady”, robi wielkie oczy i na tej podstawie twierdzi, że ludzkość przegra wyścig z AI. Nie mówię, że on kłamie. Ja rozumiem, że on naprawdę trenował jakieś sieci, naprawdę czytał książki i naprawdę rozmawiał ze specjalistami. Tylko, że wizje, które kreuje to wróżenie z fusów. Nie ma Ultrona. Naprawdę wolałbym, żeby naszymi dyżurnymi specjalistami od AI zostali chłopaki od AI_devs. Niech opowiedzą o realnych wdrożeniach, o ograniczeniach AI, o tym czym różnią się LLMy od innych narzędzi AI, które istnieją od lat, o tym jak można zhakować obecne systemy i jak można je przed zhakowaniem obronić. Tylko, że Adam i Jakub (Mateusza nie poznałem, ale po jego filmach na YT spodziewam się, że trzyma podobny poziom) są fachowcami, a nie wróżkami. Realizują realne projekty, na zadane pytanie potrafią konkretnie odpowiedzieć. Swoje wypowiedzi opierają na wiedzy, a jak czegoś nie wiedzą to nie wymyślają.

Za to Dragan nie boi się zachowywać jakby był pewien swoich przewidywań, nawet jeśli nie ma danych. Rzuca hasła które budzą emocje i dobrze się sprzedaje. Nie jestem jego przeciwnikiem, w sensie: nie zależy mi, żeby zniknął z przestrzeni publicznej. Nie uważam też, że gada same bzdury. Czasem nawet większy żal mam do prowadzących wywiady, niż do samego Dragana. On ma prawo sobie myśleć co sobie myśli, tylko jeśli już jest wszędzie zapraszany, to naprawdę powinniśmy go przycisnąć, na ile jest pewien co mówi a na ile ekstrapoluje i fantazjuje. Martwi mnie, że nikt nie dopytuje: Andrzeju, ale jak dokładnie sobie to wyobrażasz, że AI wyrośnie na gatunek, który zniszczy ludzkość?. Ile wdrożeń systemów opartych na AI przeprowadziłeś? Skąd Twoja niechęć do gatunku ludzkiego? Skąd Twoja otwarta niechęć do filozofii, która wygląda trochę jak umyślna ignorancja?

Patrząc na ilość pozytywnych komentarzy na YouTubie, Dragan potrafi w ludziach wzniecić jakieś zainteresowanie AI. Patrząc na to, że ja też nie jestem specjalistą od AI – może powinienem się zamknąć. Ale on naprawdę gada czasem totalne bzdury i nikt mu nie przerywa, albo nie dopytuje o szczegóły. Niech te wywiady latają, tylko niech zawierają ostrzeżenie „wypowiedzi mogą zawierać sporą ilość konfabulacji, halucynacji, groźnych min i są skrzywione przez trochę zbyt wybujałe ego”. Mi to wystarczy. Bo na mnie nie robią wrażenia literki przed nazwiskiem, wizje końca ludzkości i „luźny styl”. Albo myślisz i analizujesz, albo robisz clout chasing. Obawiam się, że Dragan poleciał w stronę tego drugiego.

Jako, że ten tekst jest dość ogólnym wyrażeniem wątpliwości, czy Andrzej Dragan jest specjalistą od AI na którego zasługujemy, w nowym roku będę próbował rozkładać jego poszczególne wypowiedzi na mniejsze części i przyczepiać się bardziej dokładnie. Póki co – szczęśliwego Nowego Roku i dużo krytycznego myślenia wobec gadających głów. Szczególnie tych, które wieszczą rychły koniec ludzkości.