Wir können der KI nicht vertrauen, bis sie etwas gesunden Menschenverstand lernt

Stellen Sie sich, wenn Sie so wollen, eine Zukunft vor, in der selbstfahrende Autos viel besser sind als heute. Sie weichen Hindernissen zuverlässig aus, beachten Ampeln und Schilder und reagieren sogar auf Blinker anderer Fahrer. Autonome Karren werden universell auf Golfplätzen, Filmplätzen und in Wohngebieten eingesetzt, und selbstfahrende Vans bedienen Pendler in vielen Städten vollständig. Sie haben seit Jahren keinen Unfall mit Personenschaden verursacht. Tatsächlich sind diese imaginären Autos so sicher und abhängig, dass sie nicht einmal menschliche Fahrer als Backup benötigen.

Die Technologie hat die erste Welle von Verbrauchern erreicht, und viele Ihrer Nachbarn haben jetzt selbstfahrende Autos in ihren Einfahrten. Sie haben sich ihnen angeschlossen. Ihr neues Auto ist erstaunlich, besser als Sie darin, unter widrigen Bedingungen wie Schneestürmen zu fahren, bei starkem Verkehr die Spur zu wechseln und durch Kreuzungen zu navigieren, die mit Fußgängern, Hunden, Kinderwagen, Fahrrädern und anderen Fahrzeugen überfüllt sind. Sie legen einfach das Ziel fest und los geht’s. Bemerkenswerterweise bieten viele Geschäfte jetzt Parkplätze am Straßenrand für Autos wie Ihres, um ihre Koffer zu beladen und auf den Heimweg zu schicken – es wird überhaupt kein Mensch im Auto benötigt.

Stellen Sie sich jetzt Folgendes vor:

Es ist Montag kurz vor Mittag, und Sie schicken Ihr Auto auf eine Einkaufstour zu Jones’s Grocery Store. Heute ist der nationale Feiertag zum Unabhängigkeitstag, und Jones’s hat einen Sonderverkauf für seine großartigen Steaks, die Sie heute Nachmittag grillen möchten. Sie erwarten, dass die Fahrt schnell geht, weil so viele Leute in den Ferien am Strand sind und der Laden nicht weit entfernt ist. Das Auto nähert sich der Kreuzung von Bradford und Victoria. Die Ampel ist rot, also gleitet das Auto sanft zum Stillstand und wartet darauf, dass die Ampel auf Grün schaltet. Drei Minuten vergehen, und die Ampel bleibt rot. Fünf Minuten vergehen, und die Ampel ist immer noch rot. Die Kameras des Autos erkennen einige Aktivitäten auf der anderen Seite der Kreuzung, aber es werden keine Maßnahmen vorgeschlagen. Die Computer Ihres Autos – die sich hervorragend für die Vermeidung von Hindernissen und das Folgen von Fahrspuren eignen – sind nicht so ausgestattet, dass sie verstehen, dass die Fahrer auf der anderen Seite aus ihren Autos steigen, miteinander sprechen und auf sie zeigen. Die neuen externen Audiosensoren Ihres Autos, die darauf trainiert sind, Hupen und Sirenen zu erkennen, können keinen Sinn für einen etwas entfernten Musikton erkennen, der von rechts kommt.

Das Navigationssystem des Autos hat keine Umleitungsvorschläge; Es gibt keinen nennenswerten Verkehr und keine bekannten Baustellen oder Unfälle entlang der Strecke. Das Auto steht also da und wartet geduldig darauf, dass die Ampel wechselt. Zehn Minuten vergehen, dann fünfzehn.

Währenddessen wundern Sie sich zu Hause, warum sich das Auto nicht gemeldet hat, die Lebensmittel abzuholen. Sie wissen, wenn es ein mechanisches Problem hätte, würde es Ihnen eine Warnung senden. Sie überprüfen Ihre App und sehen das Auto an der Kreuzung warten und stellen fest, dass es sich seit einer Viertelstunde nicht bewegt hat. Doch nichts ist Freunde. Ihr Fernmonitor zeigt, dass das Auto nur das Gesetz befolgt und darauf wartet, dass die Ampel grün wird. Warum tut es nichts? Sie werfen die Hände hoch und beklagen die Tatsache, dass Ihr Auto, obwohl es wie ein Profi fährt, gelegentlich diese unerklärlichen Fehler macht – wie ewiges Warten an einer Ampel, während Ihre Gäste eintreffen.

Stellen Sie sich nun ein alternatives Szenario vor. Es ist Sie fahren diesmal. Dieselbe Kreuzung, dieselbe festgefahrene Ampel, dieselben fünf Minuten vergangen:

Du fragst dich: Was in aller Welt ist los? Soll ich vorsichtshalber noch etwas warten? Über die rote Ampel fahren? Rechts abbiegen, um die Kreuzung zu umgehen? Auf anderem Weg zum Laden kommen? Jones’s vergessen und in ein anderes Geschäft gehen? Ganz auf Lebensmittel verzichten und nach Hause fahren? (Sie können jederzeit Essen zum Mitnehmen bestellen.) Sie schalten das Radio aus und denken ein paar Sekunden lang nach. Die Autofahrer auf der anderen Seite der Kreuzung fallen ins Auge. Du schaust, wohin sie zu zeigen scheinen. Sie sehen in der Ferne ein paar Flaggen und etwas, das wie ein offenes Cabrio aussieht, auf dessen Rücksitz einige Leute sitzen. Aus dieser Richtung hörst du blechern klingende Musik.

Nach einem Moment gibst du Jones’s auf, drehst das Auto um und gehst zu einem anderen Geschäft.

Denken Sie darüber nach, was Ihnen durch den Kopf gegangen ist, als Sie herausgefunden haben, was zu tun ist. Es ist nicht so, dass Sie sich an eine bestimmte Regel erinnert hätten, die das Problem für Sie gelöst hat. Sicherlich hat Ihnen nichts, was Sie in der Fahrschule gelernt haben, gesagt, was zu tun ist. Es gibt wirklich keine einzige Fahrbewegung, die in solchen Fällen richtig ist. Vielleicht haben Sie schon einmal kaputte Ampeln erlebt und sind anderen Fahrern bis über die Kreuzung gefolgt (natürlich mit großer Vorsicht). Aber in diesem speziellen Fall dachten Sie, dass die Ampel auf Rot blieb, weil eine Parade auf die Querstraße kam. „Oh ja“, hast du dich erinnert, „es ist Unabhängigkeitstag!“ Du hättest umdrehen und eine andere Route versuchen können, aber das würde entweder zu lange dauern oder an einer anderen Kreuzung in die Parade rennen. Also hast du dich entschieden, woanders hinzugehen. Sie hätten zu Smith’s Grocery Store gehen können, der näher an Ihrem Standort liegt, aber das Fleisch und die Produkte dort sind nirgendwo so gut. Also hast du dich entschieden, stattdessen zu Robert zu gehen.

Man muss kein Fahrexperte sein, wie ein Taxifahrer mit Tausenden von Stunden auf der Straße, um auf ein solches Fahrverhalten zu kommen. Vielleicht ist es keine erlernte Routine, der Sie einfach gedankenlos folgen können, während Sie sich auf etwas anderes wie Zähneputzen oder Gassi gehen konzentrieren. Aber es ist auch keine Raketenwissenschaft. Kein Bleistift und Papier erforderlich. Sie müssen in der Lage sein, einige Dinge über Ihre aktuelle Situation zu berücksichtigen, aber darüber hinaus ist es wirklich nur der gewöhnliche gesunde Menschenverstand, den jeder intelligente Mensch haben sollte.

Ein durchschnittlicher Erwachsener wird viele relevante, weltliche Dinge wissen: Man wartet nicht ewig an einer Ampel; Menschen, die sprechen und gestikulieren, weisen wahrscheinlich darauf hin, dass etwas Interessantes vor sich geht; Fahnen und Blasmusik kündigen wahrscheinlich eine Parade an. Und sie setzen alles schnell zusammen und machen eine schnelle, vernünftige Vermutung, was als nächstes zu tun ist: Nehmen Sie die zweitbeste Wahl, wenn die erste nicht mehr so ​​vielversprechend aussieht. Es ist nur gesunder Menschenverstand. Und Ihr vermeintlich intelligentes Auto, während ein ausgezeichneter Fahrer – vielleicht sogar ein hervorragender – es eindeutig nicht hat.

Wenn Ihnen das obige Beispiel unwahrscheinlich vorkommt, veranschaulichen neuere Bücher und Artikel zahlreiche Fälle von Fehlern in der aktuellen Welt der KI – der realen Welt der KI von heute, nicht einer der imaginären Antriebe und imaginären Geschäfte. Angeblich selbstfahrende Autos machen Gaffes, die kein menschlicher Fahrer machen würde, wie das Verwechseln von Bildern von Stoppschildern auf Werbetafeln mit dem Original. Sogenannte „intelligente Lautsprecher“ haben Kindern gesagt, dass sie Pennys auf die Stifte von Steckern in Wandsteckdosen drücken sollen. KI-Systeme sind zerbrechlich und kennen die Welt um sie herum nicht. Während sie in manchen Dingen ziemlich geschickt sind, können sie nicht bemerken, wenn etwas, das sie tun oder sagen wollen, so abwegig ist, dass es absurd ist. Sie brechen unter ungewohnten Umständen auf seltsam unvorhersehbare Weise zusammen, weil ihnen die umfassende Fähigkeit fehlt, mit der offenen Welt umzugehen, die Menschen durch gesunden Menschenverstand erhalten.

Was ist also dieser gesunde Menschenverstand, den die meisten Menschen haben, und was würde es brauchen, damit Maschinen wie selbstfahrende Autos ihn auch haben – wie könnte ein nichtmenschlicher Fahrer einem von uns ähnlicher werden? Was es braucht, um gesunden Menschenverstand an den Tag zu legen, ist etwas ganz anderes als das, was es braucht, um bei bestimmten Aufgaben gute Leistungen zu erbringen, selbst bei solchen, die anscheinend Intelligenz von Menschen erfordern, wie z. B. anständiges Schach spielen oder eine Blutinfektion diagnostizieren. Nur durch eine gründliche Analyse des gesunden Menschenverstands und einen Plan, wie man ihn in KI-Systeme einbauen kann, kann das Feld endlich aus der unvollständigen Ecke herauskommen, in die es sich selbst hineingemalt hat. Zu den kritischsten Fragen, mit denen KI heute konfrontiert ist, gehört, was gesunder Menschenverstand ist, wie er funktioniert und was erforderlich sein könnte, um Computersysteme zu bauen, die ihn haben. Dies ist der Schlüssel, um KI-Systeme aus dem Bereich der gelehrte Idioten bis hin zu robusten, vollwertigen intelligenten Agenten. Und in eine Zukunft, in der wir ihnen wirklich vertrauen können, weil sie sich erklären können, unsere Ratschläge zur Vermeidung von Problemen annehmen – und dafür sorgen, dass sie immer etwas Sinnvolles tun.

Angepasst außer von Maschinen wie wir: Mit gesundem Menschenverstand zur KI von Ronald J. Brachman und Hector J. Levesque, © 2022 Massachusetts Institute of Technology

.

Leave a Comment

Your email address will not be published.