Fokus Interview: KI

Künstliche Intelligenz wird Menschen unterstützen – nicht ersetzen

Professorin Barbara Grosz erklärt, warum es ein Fehler wäre, Menschen durch KI zu ersetzen.

Barbara Grosz, Higgins-Professorin für Natur­wissen­schaften an der Harvard University/USA, forscht seit den 1970er-Jahren auf höchstem Niveau an Künstlicher Intelligenz (KI). Sie spricht mit Creating Chemistry über ihre Leidenschaft für dieses Fachgebiet und darüber, warum es ein schrecklicher Fehler wäre, Menschen durch KI zu ersetzen.

Creating Chemistry: Künstliche Intelligenz scheint heute allgegenwärtig zu sein, aber was genau ist damit gemeint?

Professorin Barbara Grosz: Es heißt ja, wenn man sechs Wissenschaftler bittet, KI zu definieren, erhält man sieben verschiedene Definitionen. Also gebe ich Ihnen meine. Künstliche Intelligenz ist sowohl ein Forschungsbereich als auch eine Reihe von Berechnungsmethoden. Beim Forschungsgebiet liegt der Fokus auf dem, was ich rechnergestütztes Begreifen intelligenten Verhaltens nennen würde. Mit rechnergestütztem Begreifen meine ich, dass man die kognitiven Prozesse und Darstellungen ermittelt, die benötigt werden, um intelligentes Verhalten zu erzeugen. Dann findet man heraus, wie sich diese in einem Computersystem umsetzen lassen. Bei der Reihe der Berechnungsmethoden schließlich handelt es sich um die Algorithmen, sogar um die Mathematik, aber auch um die rechnergestützten Strukturen, die gebraucht werden, um dieses Verständnis tatsächlich zu operationalisieren.

Computersysteme zu schaffen, die frei mit Menschen kommunizieren können, ist eine der zentralen Herausforderungen in der KI. Wie hat Ihre Arbeit über die Verarbeitung natürlicher Sprache geholfen, dieses Ziel zu erreichen?

Als ich angefangen habe, erforschten viele Leute die syntaktische Verarbeitung, also die Struktur der Sätze, und die semantische Verarbeitung, durch die Sinn geschaffen wird. Jeder wusste in gewisser Weise, dass Kontext, Dialog und Pragmatik von Bedeutung sind. Doch niemand hatte eine Vorstellung davon, wie man diese Faktoren rechnergestützt bearbeiten könnte. Deshalb war eines der ersten Dinge, die ich getan habe, etwas, das später als die „Zauberer von Oz“-Experimente bekannt wurde. Ich ließ zwei Menschen in verschiedenen Räumen über Fernschreiber miteinander kommunizieren. Ich sagte einer der beiden Personen, dass sie mit einem Computer sprechen würde, und bat sie, eine Aufgabe zu erledigen. Die bei diesen Experimenten entstandenen Protokolle zeigten, dass diese Art von „aufgabenorientierten Dialogen“ eine Struktur hat, dass diese Struktur der Aufgabe entspricht und dass unsere Art zu reden durch diese Struktur beeinflusst wird. Nachdem ich ein Berechnungsmodell für solche aufgabenorientierten Dialoge entwickelt hatte, lautete die nächste Frage, wie sich dieses auf andere Arten von Unterhaltung übertragen lässt. Das führte mich gemeinsam mit Kollegen zur Entwicklung intentionaler Modelle und zur Sprechakttheorie, die andere in der KI aufgegriffen haben.

Es wäre ein schrecklicher Fehler, Menschen zu ersetzen.“

Barbara J. Grosz

Barbara J. Grosz

ist Professorin am Higgins-Lehrstuhl für Naturwissenschaften an der Harvard University in Cambridge/USA. Die „One Hundred Year Study on Artificial Intelligence“ (Hundertjahresstudie zum Thema Künstliche Intelligenz), in deren ständigem Ausschuss sie den Vorsitz führt, untersucht regelmäßig die künftigen Auswirkungen von KI auf sämtliche Aspekte der Arbeit, des Lebens und der Freizeit. Grosz hat einen Bachelor in Mathematik von der Cornell University in Ithaca, New York/ USA, und einen MA sowie einen PhD in Informatik von der University of California in Berkeley/USA. Sie verbrachte den ersten Teil ihrer Forschungskarriere am SRI International Artificial Intelligence Center, Menlo Park/USA, wo sie das Institutsprogramm für natürliche Sprachen und deren Darstellung leitete.

Was passiert, wenn mehrere Akteure miteinander kommunizieren?

Bei einem Dialog ist nicht davon auszugehen, dass jeder Beteiligte den Kenntnisstand oder die Absichten der anderen Teilnehmer voll erfasst. Wenn mehrere Beteiligte zusammenarbeiten, muss man daher nicht nur ihre individuellen Pläne als Modell abbilden, sondern auch die Art und Weise, wie die Beteiligten interagieren und wie ihre Pläne miteinander verwoben sind. Ein Zweig meiner Arbeit bestand darin, diese Modelle zu entwickeln. Ein anderer Aspekt lag in der Verwendung theoretischer Modelle als Inspirationsquelle für die Gestaltung oder zur Eingrenzung der Teile von Systemen, die entwickelt werden müssen. Ein Beispiel ist ein Projekt, an dem ich gemeinsam mit einem Kinderarzt an der Medizinischen Hochschule von Stanford arbeite und an dem Kinder mit komplexen Krankheiten beteiligt sind. Diese Kinder können mit zwölf bis fünfzehn Pflegepersonen oder mehr Kontakt haben, die womöglich nur wenige Details über die Arbeit der jeweils anderen kennen. Die heutigen elektronischen Patientenaktensysteme tun nichts, um diesen Pflegepersonen dabei zu helfen, die Betreuung zu koordinieren. Wir nutzen unsere Multiagentensystem-Theorie der Zusammenarbeit als analytische Lupe. Damit sehen wir, was passiert, wenn Pflegepersonen und Patienten – oder in diesem Fall Eltern – versuchen, zusammenzuarbeiten. Wir möchten erkennen, welche Teile fehlen. Und wir möchten verstehen, welche Systeme wir entwickeln können, um alle dabei zu unterstützen, als Team erfolgreicher zusammenzuarbeiten. Eines dieser Teile soll sicherstellen, dass alle Beteiligten sehen können, welches die Ziele sind. So wissen sie, was sie erreichen sollen. Ein anderer Teil soll die Art und Weise verbessern, wie Teammitglieder Informationen austauschen.

Ich glaube, dass Künstliche Intelligenz eine echte Chance bietet, etwas zu bewegen.“

Professor Barbara Grosz

Es scheint, als seien in den vergangenen Jahren gewaltige Sprünge bei der Entwicklung und Anwendung von KI-Technologien gemacht worden. Was treibt diesen Fortschritt an?

Viele der wichtigsten Ideen in der KI, wie neuronale Netze oder Text-Mining, gibt es seit den 1960er-Jahren. Doch die Computer der damaligen Zeit waren nicht leistungsstark genug. Deshalb hat es einfach nicht funktioniert. Heute existiert dank Videospielen und der Entwicklung leistungsfähiger Grafikprozessoren eine viel höhere Rechenleistung. Das hat es dem Bereich maschinelles Lernen ermöglicht, das sogenannte Deep Learning zu entwickeln. Dieses beinhaltet neuronale Netze mit einer viel größeren Zahl an Ebenen. Das hat viele Bereiche der KI einen großen Schritt nach vorne gebracht. Deep Learning für sich allein genommen reicht allerdings nicht aus. Es wird wahrscheinlich nicht einmal alle Probleme bei der visuellen Wahrnehmung und der natürlichen Sprache bewältigen. Doch es hat einen enormen Unterschied bei dem gebracht, was KI-Systeme zurzeit leisten können.

Welche Herausforderungen müssen noch gemeistert werden, bevor wir wirklich „natürliche“ Unterhaltungen zwischen Computer und Mensch erleben?

Eine große Herausforderung besteht darin, gute Daten zu bekommen. Es gibt heute erheblich mehr Daten als vor ein paar Jahren, aber es handelt sich nicht immer um die richtige Art. Wer etwas über eine natürliche Sprache erfahren möchte, muss echte Gespräche untersuchen. Twitter etwa bietet dafür keine guten Daten, denn es handelt sich dabei ebenso wenig um einen echten Dialog wie bei den rudimentären Interaktionen, die wir gegenwärtig mit Siri und ähnlichen persönlichen Assistenzsystemen betreiben. Es wird schwierig sein, an die richtige Art von Daten zu kommen, und das auf ethisch korrekte Weise. Schließlich braucht man die Erlaubnis der Teilnehmer, wenn man ihre Unterhaltungen untersuchen möchte. Es wird auch nicht ganz einfach sein, zu gewährleisten, dass Daten von vielen unterschiedlichen Menschen gesammelt werden. Man kann weder einfach nur Daten von Studienanfängern erheben, wie dies traditionell in der psychologischen Forschung praktiziert wurde, noch ausschließlich von den heutigen Vielnutzern von sozialen Netzwerken oder lediglich von englischsprachigen Menschen. Selbst innerhalb eines einzelnen Landes wird es verschiedene Dialekte und unterschiedliche kulturelle Einflüsse auf die Gesprächsstrukturen geben.

Barbara Grosz ist Expertin für kollaborative Multiagentensysteme

Werden Entwicklungen in anderen Gebieten der Informatik, wie Quantencomputer, großen Einfluss auf KI haben?

Keine Frage: Wenn es gelingt, Quantencomputer zum Laufen zu bringen, werden wir damit Probleme in den Griff bekommen, die wir heute noch nicht lösen können. Doch ich kann Ihnen nicht sagen, welche Probleme das sein werden. Das Ausmaß, in dem diese Technologien dazu beitragen werden, die Fähigkeit zum logischen Denken zu steigern, ist von Folgendem abhängig: Wie können wir besser verstehen, wie wir Systeme dazu bekommen, logisch auf einem höheren kognitiven Niveau zu denken, das bei intelligentem menschlichen Verhalten beteiligt ist?

Wo werden KI-Technologien Ihrer Meinung nach in der Zukunft die größten Auswirkungen haben und was bedeutet das für unsere Arbeitsplätze und die Rolle des Menschen?

Ich möchte mich nicht in Wahrsagerei versuchen, aber es besteht großes Interesse daran, mit KI die Bereiche Bildung und Gesundheitsversorgung zu verbessern. Ich denke auch, dass es beim autonomen Fahren viele Veränderungen geben wird. Beim Gesundheitswesen und bei der Bildung stellt sich meiner Meinung nach für die Gesellschaft insgesamt eine gewaltige ethische Frage. Wir könnten diese Systeme bauen, damit sie Ärzte und Lehrer unterstützen und mit diesen zusammenarbeiten. Oder wir könnten versuchen, Geld zu sparen, indem wir sie anstelle der Menschen einsetzen. Es wäre ein schrecklicher Fehler, Menschen zu ersetzen. Aber es gibt großartige Dinge, die KI-Systeme bei der Verarbeitung von großen Datenmengen werden leisten können. Doch damit erhält man nicht die gleichen Einblicke in einen Patienten. Was Kranke brauchen, ist ein Arzt, der sie in- und auswendig kennt. Dasselbe trifft auch auf den Bildungsbereich zu. Anstatt zu versuchen, Lehrer zu ersetzen, könnten Systeme entwickelt werden, die sie unterstützen. Wenn 30 oder 40 Schüler mit Computern arbeiten, kann der Lehrer nicht alle im Auge behalten, doch ein Computer kann das. Er registriert, wenn Schüler nicht aufpassen oder wenn sie auf ein Problem stoßen. Und er kann den Lehrer informieren, wer Hilfe benötigt und warum. Genau so ein System bauen wir gerade.

Künstliche Intelligenz bietet die riesengroße Chance, Menschen zu helfen.“

Professor Barbara Grosz

Die breite Nutzung von KI-Technologien wird große Risiken und ethische Fragen aufwerfen. Wie sollte man damit umgehen?

Alle Aktivitäten des Menschen bergen Risiken, und der Umgang damit erfordert ein Zusammenspiel aus Planung, Richtlinien und Vorschriften. Ich glaube, dass wir uns zum Zeitpunkt der Entwicklung mit den ethischen Fragen befassen müssen. Daher müssen wir unseren Studenten beibringen, ethische Fragen schon bei der Entwicklung zu berücksichtigen. Außerdem sollten wir ihnen vermitteln, wie sie mit diesen Fragen umgehen sollen. Nicht zuletzt muss die Industrie ethischen Fragen und der ethischen Gestaltung die gleiche Bedeutung einräumen wie der Entwicklung effizienter Algorithmen. Wir brauchen die Industrie, um Partnerschaften zum Austausch bewährter Konzepte zu bilden – wie dies jetzt geschieht. Auch müssen Technologiefachleute, Sozial- und Kognitionswissenschaftler ebenso wie Anwälte beteiligt sein, wenn die Vorschriften erstellt werden.

Welche potenziellen Anwendungsgebiete für KI-Technologien finden Sie persönlich am aufregendsten?

Ich glaube, dass die riesengroße Chance besteht, mit KI das Leben von Menschen in weniger entwickelten Gesellschaften weltweit zu verbessern. Und auch die Umwelt könnte profitieren, wenn wir das priorisieren. Einige Leute arbeiten heute in solchen KI-Projekten mit verschiedenen Anwendungen etwa für Bildungs- und Gesundheitsversorgungssysteme. Ich finde das sehr aufregend. Möglicherweise verdient niemand damit sofort viel Geld. Aber die langfristigen wirtschaftlichen Vorteile, die sich daraus ergeben, dass das Niveau der gesundheitlichen Versorgung und der Bildung in Gesellschaften mit geringen Ressourcen angehoben und die Umwelt besser geschützt wird, werden viel größere Bedeutung haben.

Related Content

Was ist Künstliche Intelligenz?

Von Z1 bis Künstliche Intelligenz

Alle Themen im Überblick