Mehr als 150 Mathematiker aus aller Welt haben davor gewarnt, den „Hype“ um die mathematischen Fähigkeiten von Systemen der Künstlichen Intelligenz (KI) unkritisch zu übernehmen.
In einer am Dienstag, 2. Juni nach einer Konferenz in der niederländischen Universitätsstadt Leiden veröffentlichten Erklärung hieß es, KI-Entwickler hätten „einen starken kommerziellen Anreiz“, die Fähigkeiten ihrer Produkte übertrieben darzustellen.
Kommerzielle Marktlogik und falsche Beweise
Öffentlichkeitsarbeit zu KI werde häufig nach Marktlogik betrieben und nicht im Tempo wissenschaftlicher Begutachtung.
Dabei würden KI-Lösungen für einzelne mathematische Aufgaben irreführend als Maßstab für die allgemeinen Fähigkeiten kommerzieller KI-Modelle dargestellt, hieß es in der Leidener Erklärung.
Kritik am KI-Wettlauf: Mathematiker Michael Harris von der Columbia Universität, bemängelt den extremen wirtschaftlichen Druck in der Branche, der zu einer verzerrten und übertriebenen Darstellung realer KI-Fähigkeiten führe.
Foto: Steve Rosenbach / iStock
Der Mathematiker Michael Harris von der Columbia Universität, einer der Mitautoren der Erklärung, sagte, zwischen den großen KI-Laboren herrsche ein „Wettbewerb auf Leben und Tod“. Die Unternehmen versuchten, mit Hilfe der Mathematik Investitionen anzuziehen.
Die Autoren der Erklärung warnen unter anderem davor, dass KI-Systeme plausibel wirkende, aber letztlich falsche „Beweise“ erzeugen könnten, die für Menschen schwer zu überprüfen seien.
Auch bestehe die Gefahr, dass die Nutzung von KI in der Mathematik Forschung begünstige, die sich vor allem an neuen praktischen Anwendungen orientiere, zulasten anderer wichtiger Fragestellungen.
Warnung vor Missbrauch und ethische Pflichten
Die Autoren warnen außerdem vor möglichen Schäden durch KI bei der Kriegsführung, der Massenüberwachung, der Destabilisierung politischer Systeme und der Umweltbelastung.
Sie riefen Kollegen ihrer Zunft auf, die ethischen Folgen ihrer Forschung zu prüfen und sich nötigenfalls aus schädlicher Arbeit zurückzuziehen.
KI eröffne „neue und spannende Möglichkeiten“, werfe aber auch Fragen auf, „die nicht ungeprüft bleiben dürfen“, erklärte die Vizepräsidentin der Internationalen Mathematischen Union (IMU), Ulrike Tillmann.
Die Zukunft der mathematischen Forschung müsse von „menschlichem Urteilsvermögen, fairen und transparenten Verfahren“ sowie den „gemeinsamen Werten der weltweiten mathematischen Gemeinschaft“ geleitet werden. (afp/red)