AI „Godfather“ Geoffrey Hinton warnt vor Fallstricken, als er Google verlässt

Ein Mann, der weithin als Vater der künstlichen Intelligenz (KI) gilt, hat seinen Job gekündigt und warnt vor den Gefahren, die die Entwicklungen auf diesem Gebiet mit sich bringen.

Jeffrey Hinton, 75, gab in einer Erklärung gegenüber der New York Times seinen Rücktritt von Google bekannt und sagte, er bedauere jetzt seine Arbeit.

Er sagte der BBC, dass einige der Risiken von KI-Chatbots „sehr beängstigend“ seien.

„Im Moment sind sie nicht schlauer als wir, soweit ich das beurteilen kann. Aber ich denke, sie könnten es bald sein.“

Dr. Hintons bahnbrechende Forschung zu Deep Learning und neuronalen Netzen ebnete den Weg für aktuelle KI-Systeme wie ChatGPT.

Aber der britisch-kanadische Kognitionspsychologe und Informatiker sagte der BBC, dass Chatbots bald die Informationen des menschlichen Gehirns überholen könnten.

„Was wir jetzt sehen, ist, dass Dinge wie GPT-4 den gesunden Menschenverstand einer Person in den Schatten stellen und ihn für lange Zeit verstecken. In Bezug auf die Argumentation ist es nicht so gut, aber es tut es bereits. Einfache Argumentation.

„Und angesichts der Fortschrittsrate erwarten wir, dass sich die Dinge sehr schnell verbessern werden. Also sollten wir uns darüber Sorgen machen.“

In dem Artikel der New York Times bezog sich Dr. Hinton auf „schlechte Schauspieler“, die versuchten, KI für „schlechte Taten“ einzusetzen.

Auf Nachfrage der BBC antwortete er: „Es ist eine Art Worst-Case-Szenario, eine Art Alptraumszenario.

„Man kann sich zum Beispiel einige schlechte Schauspieler vorstellen [Russian President Vladimir] Putin beschloss, Robotern die Möglichkeit zu geben, ihre eigenen Unterziele zu erstellen.“

Daraus können schließlich „Unterziele wie ‚Ich will mehr Macht‘ entstehen“, warnte der Wissenschaftler.

Er fügte hinzu: „Ich bin zu dem Schluss gekommen, dass sich die Intelligenz, die wir entwickeln, sehr von der Intelligenz unterscheidet, die wir haben.

„Wir sind biologische Systeme und dies sind digitale Systeme. Und der große Unterschied besteht darin, dass es bei digitalen Systemen mehrere Kopien des gleichen Gewichts, des gleichen Modells der Welt gibt.

„Und all diese Nachbildungen können individuell lernen, aber ihr Wissen sofort teilen. Es ist also, als hätte man 10.000 Leute, und wenn einer etwas lernt, weiß es automatisch jeder. Und diese Chatbots können mehr lernen als jede einzelne Person.“

Dr. Hinton sagte auch, es gebe andere Gründe, seinen Job aufzugeben.

„Erstens bin ich 75. Also ist es Zeit, in Rente zu gehen. Und zweitens möchte ich ein paar gute Dinge über Google sagen. Und wenn ich nicht bei Google arbeiten würde, wären sie glaubwürdiger.“

Er wollte Google nicht kritisieren und beharrte darauf, dass der Tech-Riese „sehr verantwortungsvoll“ gehandelt habe.

Jeff Dean, Chefwissenschaftler von Google, sagte in einer Erklärung: „Wir verpflichten uns zu einem verantwortungsvollen Umgang mit KI.