Zum Menü Zum Inhalt Zur Fußzeile
Leichte Sprache / Deutsche Gebärdensprache

Ich KI, du Jane!

Forschungsprojekt MUHAI will die KI für den Menschen verstehbar machen

Hausaufgaben, Programmcode, Beziehungsratgeber – es gibt keinen Bereich, in dem sich ChatGPT nicht auskennt. Die künstliche Intelligenz hat in den letzten Wochen in den Medien von sich reden gemacht und wird von vielen Menschen in Alltagssituationen eingesetzt.

Aber sie hat ihre Fehler. Sie ist confidently incorrect – sie gibt selbstbewusst auch völlig falsche Antworten, die oftmals nur von Expertinnen und Experten als unsinnig eingestuft werden können. Sie versteht nicht, wovon sie spricht, sondern trägt nur hochkomplex Inhalte aus dem Internet zusammen. Meistens ziemlich gut, aber nur meistens.

Auftritt von Rainer Malaka und Robert Porzel. Die beiden Wissenschaftler der Universität Bremen sind Teil des Projekts MUHAI – „Meaning and Understanding in Human-centric AI“. Hinter der Bezeichnung verbirgt sich ein neuer Ansatz künstlicher Intelligenz: „Wir wollen der KI eine menschliche Perspektive geben und der Schlüssel dazu ist das Verstehen von Sprache“, so Prof. Rainer Malaka, Geschäftsführender Direktor des Technologiezentrums Informatik und Informationstechnik (TZI).

Der Papagei, der nichts versteht

Um zu begreifen, was sie damit meinen, muss man etwas ausholen. KIs wie ChatGPT sind eine Form des maschinellen Lernens. Aus einem Satz an bestehenden Daten lernen sie eigenständig, ein Muster zu erkennen und dieses Muster dann auf neue Sachverhalte anzuwenden. Je mehr Daten sie haben, desto besser werden sie. ChatGPT nutzt Abermilliarden an Texten aus dem Internet, um daraus Antworten zu formen. Diese Antworten sind neu – das Programm kopiert nicht einfach Texte von irgendwoher – aber sie beruhen immer zwangsläufig auf existierenden Daten.

„Eine KI wie diese kann aber nicht erklären, warum sie eine Antwort gibt, selbst wenn sie richtig ist“, so Malaka. Denn diese Antwort liegt in ihrer Programmierung, im Zusammenspiel Tausender von Codezeilen, die durch das Training ein bestimmtes Muster erlernt haben, das sie nun wiedergeben.

„Sie ist im Grunde ein statistischer Papagei“, gibt er ein Beispiel. „Ich kannte einmal einen Papagei, der bei jedem Haustürklingeln ‚Ich komme gleich!‘ rief, weil das seine Besitzerin häufig in dieser Situation sagte. Diese Antwort war faktisch korrekt, aber der Papagei wusste nicht, warum er das sagte. Und er sagte es auch, wenn niemand zu Hause war.“

Wie der Papagei können KIs wie ChatGPT richtige Antworten plappern, ohne die Bedeutung hinter den Worten zu kennen.

Ein Papagei mit Schirmmütze, Mantel und Pfeife

Und genau hier setzt MUHAI an. Das Acht-Millionen-Euro-Projekt greift dabei unter anderem auf einen derzeit aus der Mode gekommenen Ansatz zurück: Die symbolische KI. Diese Form der KI lernt nicht eigenständig aus Trainingsdaten ein Muster (dies wird auch subsymbolisch genannt), sondern nutzt logische Schlussfolgerungen, die auf einem gegebenen Satz an Daten beruhen. Sie ist wie Sherlock Holmes, der aus bekannten Fakten richtige Schlüsse zieht.

MUHAI geht aber noch weiter. Denn die KI kann nicht nur Fakten in Beziehung setzen, sie kann daraus eine Simulation echter Ereignisse generieren, anhand derer sie Rückschlüsse über ihre Umgebung macht.

Was damit gemeint ist lässt sich gut anhand von Kochrezepten veranschaulichen, einem von zwei Bereichen, die sich das europäische Forschungsprojekt MUHAI als Erprobungsfeld vorgenommen hat.

Was kocht eine KI? Buchstabensuppe!

„Kochrezepte sind für die KI eine Herausforderung“, sagt Dr. Robert Porzel, wissenschaftlicher Mitarbeiter der Arbeitsgruppe Digitale Medien und Teil von MUHAI an der Uni Bremen. „Denn sie setzen Allgemein- und Alltagswissen sowie Physikverständnisse voraus, die nicht Teil der Rezeptbeschreibung sind.“

Ein Beispiel: In einem Kuchenrezept könnte stehen: Butter, Zucker, Milch, Eier und Mehl vermischen. Den Teig in eine Kastenform gießen. 20 Minuten bei 175 Grad backen. Menschen verstehen die Anweisungen sofort, KIs kapitulieren. Wo kommt Teig plötzlich her? Dieser steht nicht in der Zutatenliste. „Auch ist nicht klar, wer hier was wo backen soll. All das ist Wissen, was das Rezept voraussetzt“, so Porzel.

Die MUHAI-KI kann diese Anweisungen verstehen, indem sie die einzelnen Schritte in ein komplexes Sprachmodell gibt, das herausfindet, in welcher Beziehung die einzelnen Wörter zueinander stehen und dieses Ergebnis dann in eine Computersimulation gibt, die das Kochrezept in einer Art Computerspiel nachkocht. 

„Indem der Computer das Rezept in einer realistischen Umgebung tatsächlich kocht, versteht er, was da passiert. Steht im Rezept Topf bedecken, damit keine Hitze entweicht, aber es ist kein Topfdeckel da, könnte er zum Beispiel einen Teller nutzen oder einen Pfannenwender. In der Simulation merkt er aber, dass bei einem Pfannenwender die Hitze entweicht und nur ein Teller funktioniert. Also hat er etwas Neues herausgefunden, was er beim nächsten Mal direkt anwenden kann“, so Porzel weiter. Die KI sei somit robuster als reine subsymbolische KI, die aufgibt oder unsinnige Daten produziert, wenn sie mit Situationen konfrontiert werden, die nicht zu den Trainingsdaten passen.

Diese Kombination aus Sprachmodell und Simulation setzt natürlich entsprechende Datenbanken voraus, die Begriffe und Beziehungen enthalten. MUHAI nutzt dazu eine Datenbank aus Amsterdam, die zehn Milliarden Fakten und Beziehungen dieser untereinander enthält. Zudem kann das System mit subsymbolischer KI – neuronalen Netzwerken wie etwa ChatGPT – kombiniert werden, was ihr eine noch breitere Datenbasis gibt.

Ein neuer Schritt für die KI

Auf diese Weise wird die KI auch für den Menschen verstehbar. Porzel: „Ich kann die KI fragen: Warum hast du den Teller genutzt? Und die KI antwortet: Weil sie verhindert, das Dampf entweicht. Das ist ein Riesenschritt.“ Und auch das Ziel von MUHAI: Eine für den Menschen verstehbare KI zu schaffen.

Das Wissenschaftsteam glaubt so, künstlicher Intelligenz näherzukommen. Denn das Verstehen unserer Umgebung über Sprache ist eine zentrale Funktion unseres Bewusstseins. Wir wissen, was Wörter meinen – Computer hingegen nicht. MUHAI will diese Barriere einreißen. „Das ist völliges Neuland, das wir hier betreten, eine neue Art des Verstehens für eine KI, die lange unlösbar schien“, so Porzel.

In realen Küchen angewendet

Wofür ist das nun nützlich? Das rund 40-köpfige Team mit Wissenschaftlerinnen und Wissenschaftlern in Bremen, Venedig, Amsterdam, Brüssel, Paris und Barcelona bringt der KI das Kochen nicht aus purer Neugier bei. Teil des Forschungsprojekts ist das Unternehmen apicbase aus Belgien. Das möchte mit der KI Lebensmittelverschwendung reduzieren. „Die Software kommt in Restaurants zum Einsatz, wo sie Rezepte erlernt und mit den Lebensmitteleinkäufen in Verbindung setzt und anhand dessen errechnet, wieviel Lebensmittel künftig eingekauft werden müssen oder welche Rezepte man aus Resten machen kann. So müssen Restaurants weniger wegwerfen“, so Porzel.

Im Kampf gegen Desinformation und Fake News

Ein weiteres Anwendungsgebiet von MUHAI sind die sozialen Netzwerke, genauer gesagt: Twitter. „Tweets zu analysieren fällt herkömmlichen KIs schwer, denn die Kurznachrichten beziehen sich aufeinander, ohne dass das explizit erwähnt wird, sie haben eine verkürzte Sprache und es gibt dauernd neue, dynamische Sachverhalte, auf die KIs nicht trainiert wurden“, weiß Malaka.

Subsymbolische Systeme können schlecht auf sich schnell verändernde, völlig neue Sachverhalte reagieren oder mit einmaligen Fragen umgehen, zu denen es keine Beispiele oder Ähnlichkeiten zu vorherigen Ereignissen gibt.

Auch hier kommt das Sprachmodell von MUHAI zum Tragen, das Äußerungen auf Twitter in Bestandteile zerlegt, analysiert und in Beziehung zueinander setzt. Indem die KI Tausende oder Millionen von Tweets analysiert, könne sie Strömungen und Muster erkennen, die zu komplex sind, als dass sie ein Mensch erkennen könnte. „Es ist so etwa möglich, gezielte Desinformationskampagnen oder Netzwerke aufzudecken, in denen radikale Inhalte geteilt werden. So kann man besser verstehen, wie und wo Beeinflussung stattfindet“, prognostiziert Malaka.

Das Forschungsteam möchte bis zum Projektende 2024 eine Reihe von Tools, Softwarekomponenten und Anleitungen veröffentlichen, die dann etwa von Journalistinnen und Journalisten kostenlos genutzt und weiterverarbeitet werden können.

„Wir ersetzen nicht die subsymbolische KI, sondern haben ein Add-on, das Probleme lösen kann, die jetzt noch nicht lösbar sind. Wir haben einen Weg aufgezeigt, wie man mit einer Kombination aus symbolischen und subsymbolischen Verfahren Architekturen baut, um das tiefe Verstehen menschlicher Sprache zu simulieren. Darauf können andere dann aufbauen“, wünscht sich Porzel.

Bremen als idealer Ausgangspunkt europäischer Zusammenarbeit

MUHAI wird im Rahmen des europäischen Forschungsprogramms Horizon 2020 gefördert. Koordiniert aus Bremen, gehören zu den Projektpartnern die Internationale Universität Venedig, die Freie Universität (FU) Amsterdam, die FU Brüssel, das Sony Computer Science Laboratory Paris und das Unternehmen apicbase.

Das Projekt passe perfekt in die Schwerpunkte der KI-Forschung am Standort Bremen, so Malaka. „Durch die Simulation haben wir starke Bezüge zum Bremer KI-Schwerpunkt Robotik, aber auch zu den Medien- und Kommunikationswissenschaften, die hier an der Uni vertreten sind. Das Projekt reiht sich zudem in die Bremer KI-Strategie ein, die ganz bewusst die menschliche KI in den Vordergrund stellt. Also eine KI, die dem Menschen nützt und ihn nicht als Datenpunkt betrachtet.“

Die MUHAI-KI brauche keine Datenmengen, die von Facebook, Amazon und co. gesammelt würden, denn sie könne Entscheidungen auf Basis von Fakten aus ihrer realen Umgebung treffen, indem sie diese verarbeite und verstehe, was sie erlebt.

Malaka kann sich künftig auch eine engere Beziehung zur Industrie vorstellen. So gäbe es erste Anknüpfungspunkte zum KI-Transferzentrum Bremen, dass es sich zur Aufgabe gesetzt hat, den Wissenstransfer zwischen Forschung und Industrie zu ermöglichen. Gerade die Lebensmittelindustrie könne von der neuen KI profitieren, so Malaka. Und schließt: „Das Projekt ist eine Auszeichnung für den Standort Bremen, das zeigt, dass man auch mit ungewöhnlichen Ansätzen überzeugen kann.“

Lesen Sie auch:

3. Februar 2023

Wie in Bremen Wasserstofftanks für Busse und Lkw entstehen

Immer mehr Busse und Lkw fahren mit Wasserstoff. Die EDAG Group entwickelt und fertigt in Bremen Tanksysteme für Nutzfahrzeuge und will mit der Branche wachsen.
2. Februar 2023

Warum gibt es so wenige Frauen in IT-Jobs?

Trotz Fachkräftemangels sind Frauen in der IT-Branche unterrepräsentiert. Was können effektive Wege sein, ihnen neue Chancen zu eröffnen? Das untersucht das Projekt F.IT Frauen in IT.
2. Februar 2023

Elefsina (Griechenland), Timisoara (Rumänien) und Veszprém (Ungarn) sind die Kulturhauptstädte Europas 2023

Von Rebekka Manske Seit 1985 werden von der Europäischen Union alljährlich die Kulturhauptstädte Europas ernannt. Die Idee stammt von Melina Mercouri, frühere Kulturministerin Griechenlands: