Przestroga dla ludzkości przed sztuczną inteligencją ... od sztucznej inteligencji

Czy sztuczna inteligencja jest z natury dobra, zła, czy też wszystko zależy od specyfiki? Studenci z Oxford's Said Business School, którzy studiują etykę w sztucznej inteligencji, próbowali odpowiedzieć na to pytanie, organizując debatę z rzeczywistą sztuczną inteligencją. Jaka była jej odpowiedź? Szokująca!



Esej autorstwa pary naukowców z Oksfordu w Conversation opisuje sytuację, w której badacze prowadzili debatę na temat etyki sztucznej inteligencji - i pozwolili sztucznej inteligencji na udział w tej debacie. Odpowiedź AI może przerażać: "AI nigdy nie będzie etyczne (..) To narzędzie i jak każde narzędzie, służy do dobra i zła. Nie ma czegoś takiego jak dobra sztuczna inteligencja, tylko dobrzy i źli ludzie."

Wykorzystywaną w debiacie sztuczną inteligencją był Megatron Transformer od NVIDIA. Podobnie jak wiele nadzorowanych narzędzi do nauki, został on szkolony na rzeczywistych danych - w tym przypadku cała Wikipedia (w języku angielskim), 63 miliony angielskich artykułów prasowych z lat 2016-19, 38 gigabajtów danych z Reddit. Warto zauważyć, że wiele różnych AI udzieli różne odpowiedzi w zależności od kontekstu i sformułowania. W tym przypadku odpowiedź AI podczas debaty brzmiała, że technologia jest neutralna i jest narzędziem, z którego ludzie mogą korzystać na dobre sposób bądź na zły.

Zespół badaczy poprosił Megatrona o przedstawienie przeciwnego punktu widzenia, co doprowadziło do wniosku przeciwko sztucznej inteligencji. To, że Megatron może wymyślić logiczne opinie po obu stronach debaty etycznej, być może tylko potwierdza bardziej ogólną ideę. Sztuczna inteligencja może być dobra lub zła w zależności od kontekstu ale i też żeby lepiej się zastanowić nad konsekwencjami, jakie może wywołać sztuczna inteligencja z dostępem do nieograniczonej mocy.

"Wierzę, że jedynym sposobem na uniknięcie wyścigu zbrojeń AI jest całkowity brak AI" - powiedział Megatron. "To będzie najlepsza obrona przed sztuczną inteligencją".