Das Microsoft

Führende Köpfe im Bereich der künstlichen Intelligenz äußern Bedenken hinsichtlich der Technologie, die sie entwickeln.

„Während diese Technologie voranschreitet, verstehen wir, dass die Menschen besorgt darüber sind, wie sie unsere Lebensweise verändern könnte. Wir sind es auch“, sagt Sam Altman.

Zwei der größten Technologieunternehmen der Welt, Microsoft und Google, warnen vor den Gefahren einer unregulierten KI-Entwicklung. Gleichzeitig liefern sie sich einen Wettlauf darum, KI in ihre beliebtesten Produkte zu integrieren.

„Diese Technologie weist nicht die Komplexität des menschlichen Verständnisses auf, aber sie wird uns in der Art und Weise, wie sie in die Welt eingeführt wird, tiefgreifend beeinflussen“, sagt Sarah Myers West.

Wie könnte uns das verändern?

Heute auf den Punkt gebracht: Der KI-Krieg zwischen Microsoft und Google.

Dina Bass, Technik- und KI-Reporterin für Bloomberg News.

Will Knight, leitender Autor für WIRED, über künstliche Intelligenz.

Sarah Myers West, Geschäftsführerin des AI Now Institute, das die sozialen Auswirkungen künstlicher Intelligenz untersucht.

MEGHNA CHAKRABARTI: Hier kommt ein weiterer offener Brief aus der Welt der KI-Entwickler, der vor der KI warnt, die sie entwickeln. Allerdings handelt es sich hierbei weniger um eine Aussage als vielmehr um einen einzelnen Satz.

„Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein.“

CHAKRABARTI: Die Erklärung wird vom Center for AI Safety veranstaltet und von Politikern und Wissenschaftlern unterzeichnet, darunter Forscher an der Spitze der KI-Technologie. Wenn also Technologen buchstäblich immer wieder um Regulierung betteln, sollten wir, die Öffentlichkeit und unsere politischen Vertreter ihnen zuhören und etwas dagegen unternehmen, weil sie sagen, dass sie sich nicht selbst regulieren können.

Und wenn es um Technologien geht, die die Zivilisation verändern, sollte man sich wahrscheinlich nicht darauf verlassen, dass Techniker sich selbst regulieren. Denn es sind die Bürger, die Zivilisation, also der Rest der Menschheit, die mitbestimmen sollten, wie genau diese Zivilisation verändert werden soll. Oder zumindest denke ich das.

Die Tech-Welt sagt auch, dass sie sich nicht selbst regulieren wird. Weil da doch mehr als nur ein bisschen aus beiden Mundwinkeln geredet wird, nicht wahr? Einerseits gehören Demis Hassabis, CEO von Google DeepMind, und Eric Horvitz, Chief Scientific Officer von Microsoft, zu den Unterzeichnern der Warnschreiben. Andererseits.

SATYA NADELLA: Das Zeitalter der KI steht vor der Tür und Microsoft treibt es voran.

CHAKRABARTI: Das ist Microsoft-CEO Satya Nadella, der Anfang des Jahres bekannt gab, dass sein Unternehmen zwar vor den Gefahren unregulierter KI warnt, aber auch neue KI-Technologien in nahezu jeden Aspekt der riesigen Produktreichweite von Microsoft drängt.

NADELLA: Wir erleben nichtlineare Verbesserungen der Leistungsfähigkeit von Fundamentmodellen, die wir als Plattformen zur Verfügung stellen. Und da Kunden ihre Cloud-Anbieter auswählen und in neue Workloads investieren, sind wir als führender Anbieter von KI gut aufgestellt, um diese Chance zu nutzen.

CHAKRABARTI: Beispielsweise verfügt Microsoft mittlerweile über ein generatives KI-Tool in seiner Suchmaschine Bing. Um nicht zu übertreffen, drängt Google, das ebenfalls Unterzeichner dieses Warnschreibens ist, stark auf generative KI. Sundar Pichai, CEO von Google, sagte gegenüber 60 Minutes von CBS:

SUNDAR PICHAI: Dies wird sich auf jedes Produkt in jedem Unternehmen auswirken. Deshalb denke ich, dass es sich um eine sehr, sehr tiefgreifende Technologie handelt. Wir stehen also erst am Anfang.

CHAKRABARTI: Und erst letzten Monat gab Cathy Edwards, Vice President of Engineering bei Google, bekannt, dass das Unternehmen generative KI in der beliebtesten Suchmaschine der Welt einführen wird. Die Google-Suche hält 80 % des weltweiten Suchmarktanteils, 99.000 Suchanfragen pro Sekunde und mehr als achteinhalb Milliarden Suchanfragen pro Tag.

CATHY EDWARDS: Diese neuen generativen KI-Funktionen werden die Suche intelligenter und einfacher machen. Und wie Sie gesehen haben, ist dies wirklich besonders hilfreich, wenn Sie etwas Komplexes verstehen müssen, das aus mehreren Blickwinkeln untersucht werden muss. Wissen Sie, die Zeiten, in denen selbst Ihre Frage Fragen aufwirft.

CHAKRABARTI: Google, Microsoft und KI. Diese beiden Unternehmen sind so groß und folgenreich, dass ihr nahezu gleichzeitiger öffentlicher Vorstoß in die generative KI als „KI-Krieg zwischen Microsoft und Google“ bezeichnet wird. Und das wirft natürlich die Frage auf, welche genauen Auswirkungen dieser Krieg auf Sie und jeden anderen Menschen haben wird. Nun ist Dina Bass zu uns gestoßen. Sie ist Technikerin und Reporterin für Bloomberg News und berichtet seit 20 Jahren über Microsoft. Sie kommt aus Seattle zu uns. Dina, willkommen zurück in der Show.

IM BASS: Hallo, Meghna.

CHAKRABARTI: Heute ist auch Will Knight bei uns. Er ist leitender Autor für WIRED und befasst sich mit künstlicher Intelligenz, und er ist hier im Studio bei uns. Willkommen bei On Point.

WILL KNIGHT: Hallo. Danke für die Einladung.

CHAKRABARTI: Zunächst einmal möchte ich von Ihnen beiden ein Gefühl dafür bekommen, ob diese Darstellung des Google-Microsoft-KI-Krieges zutreffend ist, denn von außen betrachtet scheint es irgendwie bedeutsam zu sein, dass wir zumindest in der Suche Ich habe diese, wissen Sie, zwei fast gleichzeitige Ankündigungen dieser beiden Unternehmen. Also, Dina, ist das ein großer Krieg zwischen den beiden?

BASS: Es gibt definitiv einen starken Wettbewerb zwischen den beiden. Ich denke, die Art von Zauberer hinter dem Vorhang, den Sie hier außen vor lassen, ist Open AI, dessen Herzstück die Microsoft-Technologie im Grunde die OpenAI-Technologie ist. Was wir sehen, ist, dass Microsoft offene KI einführt … Sprach- und Bilderzeugungstechnologie. Es schreibt auch Code in jedes einzelne seiner Produkte.

Und weil Microsoft bei der Veröffentlichung einiger dieser Dinge etwas schneller war, schien es Google ein wenig ins Hintertreffen zu bringen, obwohl viele dieser Technologien eigentlich bei Google erfunden und entwickelt wurden. Und so ist es so geworden, dass Google versucht, Microsoft zu erwischen, obwohl es noch am Anfang steht.

Aber ich denke, das lässt auch viele andere Unternehmen, viele andere Start-ups und viele Open-Source-Arbeiten außer Acht, die am Ende beides übertreffen könnten. Wissen Sie, vor ein paar Wochen gab es ein durchgesickertes Memo eines Google-Ingenieurs, in dem es hieß, dass sowohl OpenAI als auch Google keinen Burggraben haben und von der Open-Source-Arbeit übertroffen werden. Der Rahmen ist also korrekt. Aber es ist auch noch viel mehr los.

CHAKRABARTI: Gut. Wir werden dazu kommen. Wir werden in ein paar Minuten noch viel mehr erfahren. Aber ich muss sagen, angesichts der Reichweite und Größe dieser beiden Unternehmen möchte ich mich noch etwas länger darauf konzentrieren, wie sich ihr Vorstoß in die KI und insbesondere in die generative KI auf uns alle auswirken wird. Also Will, die gleiche Frage an dich. Ich meine, ist das eine Art neue Front im jahrelangen Wettbewerb zwischen Microsoft und Google?

KNIGHT: Ich würde sagen: Ja, absolut. Ich meine, wie Dina sagt, wissen Sie, dies ist definitiv eine neue Ära des Wettbewerbs zwischen den beiden, angetrieben durch einen ziemlich tiefgreifenden Fortschritt in einigen der KI-Fähigkeiten, die von diesen Modellen wie GPT angeführt werden. Und es gibt immer noch jede Menge Einschränkungen.

Aber wenn es einen großen technologischen Wandel gibt, haben wir das schon einmal beim Internet und bei Mobilgeräten gesehen. Große Unternehmen sehen die Möglichkeit, sich gegenseitig zu überholen und befürchten vielleicht auch, ins Hintertreffen zu geraten.

CHAKRABARTI: Jetzt haben wir sowohl Sundar Pichai als auch Satya Nadella gehört. Die CEOs beider Unternehmen sagen, dass dies im Wesentlichen alles, was sie tun, verändern wird. Wenn ein CEO das sagt, neige ich dazu, ihm zu glauben. Aber Will, meine ich, sehen Sie dasselbe, dass es Microsoft und Google verändern wird? Vielleicht nicht so, wie wir es kennen, aber wie funktionieren sie und was tun sie?

KNIGHT: Ich denke absolut. Ich meine, wissen Sie, wir sollten uns auch darüber im Klaren sein, dass es Einschränkungen gibt. Diese Technologie wird sehr schnell auf den Markt gebracht. Es gibt Probleme damit. Aber ich betrachte es als etwas so Grundlegendes wie Software. Und das haben wir in der vorherigen Ära der KI gesehen. Maschinelles Lernen hat so viele Produkte und so viele Unternehmen verändert. Und das ist so etwas wie ein Schritt, wirklich eine ziemlich bedeutsame Veränderung dessen, was Sie mit maschinellem Lernen potenziell erreichen können.

Wir sehen es hauptsächlich bei diesen Chatbots und der Bildgenerierung, aber es stellt eine Art neue Reihe von Funktionen dar, die Sie Computern geben können. Und sie sind sehr universell einsetzbar. Also ja, sie werden, glaube ich, versuchen, es überall anzuwenden. Unterwegs kann es viele Probleme geben.

CHAKRABARTI: Okay, Dina. Was mich also wirklich fasziniert, ist, wissen Sie, unmittelbar nach ChatGPT, einem der ersten öffentlichen Zugangspunkte, die Menschen zu Microsoft und Google haben, erfolgt die Nutzung generativer KI über die Suche. Rechts? Und wie Suchen, so wie buchstäblich jeder die Suche ständig und jeden Tag nutzt. Haben Sie die KI-gestützte Suche auf Bing verwendet?

BASS: Ja, und es ist interessant, dass Sie darauf hinweisen, denn bis vor ein paar Monaten war die Suche im Internet im Hinblick auf die Konkurrenz wirklich eine verschlafene Ecke. Ich meine, ich kann mir eigentlich nicht vorstellen, dass Sie dachten, wir würden darüber sprechen, dass Microsoft und Google den Suchkampf, den Microsoft vor zehn Jahren im Wesentlichen verloren hat, erneut ausfechten. Ich meine, das ist kein Bereich, von dem wir dachten, dass er reif für Innovationen sei. Ich habe es benutzt.

Es ist viel besser mit offenen Fragen, ähnlich wie bei ChatGPT. Es kann, wie Sie wissen, Inhalte, unterhaltsame Inhalte, Rezepte und Einkaufslisten generieren, aber auch offenere Fragen beantworten. Wenn Sie herausfinden möchten, welche Produkte Sie kaufen oder wohin Sie reisen möchten.

Aber wie Will betont, macht es viele Fehler. Beide Unternehmen versuchen, dies zu umgehen, indem sie Zitate verwenden. Sie können darauf klicken, sehen, woher die Daten kommen, und den Fehler erkennen. Ich weiß nur nicht, ob Benutzer das tun werden. Der Kunstbegriff für diese Fehler lautet Halluzinationen. So scheint es zu sein. Es scheint ein Euphemismus zu sein, der, wenn ich das höflich im Radio sagen kann, etwas erfindet. Das ist also immer noch ein Problem.

CHAKRABARTI: Habt ihr Lust auf eine Live-Demo?

Sollten wir das versuchen? Da ich hier vor mir Microsoft Edge geöffnet habe, können Sie die KI-gestützte Suche von Bing übrigens interessanterweise in keinem anderen Browser verwenden, wenn ich dieses Recht habe.

… Also ich habe es hier. Offen vor mir. Ich habe keine Ahnung, was passieren wird. Nun ja, das tue ich irgendwie, weil ich diese Frage schon einmal gestellt habe, aber es ist meine Lieblingsfrage für Reisen im Sommer. Und es ist offen genug. Dina, ich werde die Bing-KI-Suche fragen. Warum ist Flugreisen so schrecklich? Das ist das offene Ende genug, Dina?

BASS: Sicher.

CHAKRABARTI: Okay, also hier, treten Sie ein. Und es ist Denken. Oh, es ist nicht so schnell, okay? Es geht immer noch. Ist das normal? Ja.

KNIGHT: Nun, was im Backend läuft, ist ein riesiges neuronales Netzwerk, das versucht, die Antwort zu finden. Es ist also etwas ganz anderes als eine normale Suche.

CHAKRABARTI: Oh, okay. Hier kommt die Antwort. Wow. Es ist eine lange Antwort. Es gibt mehrere Gründe, warum Flugreisen unangenehm sein können. Einem CNN-Wirtschaftsartikel zufolge liegt ein Grund darin, dass es nicht genügend Piloten und Flugbegleiter gibt. Okay, das stimmt, besonders was die Piloten betrifft. Es herrschte Pilotenmangel.

Sorgen über Impfvorschriften, weniger Sitzplätze, steigende Fahrpreise, die Zahl widerspenstiger, unzufriedener Passagiere. Dann werden Investopedia und ein Time-Artikel über pandemiebedingte Schmerzen zitiert, nachdem die Luftfahrtindustrie zum Stillstand gekommen war und nun Schwierigkeiten hat, mit der steigenden Nachfrage Schritt zu halten. Ich hoffe das hilft. Okay. Wenn ich nichts über die Luftfahrtbranche wüsste, würde ich sagen, dass diese Antworten Sinn machen. Aber es lässt massive, massive Ursachen außer Acht.

KNIGHT: … Was es tut, besteht darin, eine riesige Menge an Informationen aus dem Internet zu entnehmen und dann einfach zu erraten, was eine plausible Antwort wäre, nicht unbedingt die richtige.

CHAKRABARTI: … Haben Sie Bedenken, dass diese Produkte so schnell auf den Markt kommen, dass sie für jedermann nutzbar sind?

BASS: Meine Damen und Herren, Sie müssen bedenken, dass Sie die Betatester sind. Das wird an Ihnen experimentiert. Die Unternehmen werden Ihnen sagen, dass das notwendig ist, dass sie große Datenmengen benötigen, um es zu verfeinern und damit es gut funktioniert.

CHAKRABARTI: Im Moment frage ich nach der neuen KI-Power-Suche von Microsoft. Sollten Sie sich die fantastische Radiosendung und den Podcast „On Point“ von WBUR anhören? Ich habe ein wenig Angst, die Eingabetaste zu drücken, aber ich werde es tun, und wir sprechen über den KI-Krieg zwischen Microsoft und Google, da diese beiden großen Unternehmen damit beginnen, generative KI-Technologien in ihre Produkte einzubauen. Oh schau. Es antwortete, es hieß:

Ja. On Point ist eine Radiosendung und ein Podcast, die von WBUR in Boston produziert werden. Es deckt ein breites Themenspektrum ab, von Wirtschaft und Gesundheitswesen bis hin zu Politik und Umwelt. Die Sendung spricht mit Nachrichtenmachern und normalen Menschen über die wichtigsten Themen.

Also keine Halluzinationen. Okay. Sondern im Hinblick auf die Bedeutung von KI für Unternehmen wie Microsoft und Google und damit für uns als Nutzer ihrer Technologie. Hier ist, was Google-CEO Sundar Pichai zu CBS 60 Minutes sagte.

PICHAI: Ich habe KI immer als die tiefgreifendste Technologie angesehen, an der die Menschheit arbeitet, tiefgreifender als Feuer oder Elektrizität oder alles, was wir in der Vergangenheit getan haben. Warum so? Es bringt den Kern dessen zum Ausdruck, was Intelligenz ist, was Menschlichkeit ist. Wissen Sie, wir entwickeln Technologien, die eines Tages mit Sicherheit weitaus leistungsfähiger sein werden als alles, was wir jemals zuvor gesehen haben.

CHAKRABARTI: Und hier ist Microsoft-CEO Satya Nadella im letzten Monat im Gespräch mit Andrew Ross Sorkin, der darüber spricht, dass er zustimmt, dass sich die KI möglicherweise, Zitat, zu schnell bewegt, aber nicht auf die Art und Weise, wie manche Leute denken.

NADELLA: Viel Technologie, viel KI ist bereits im großen Maßstab vorhanden, oder? Jeder Newsfeed, jede Art von Social-Media-Feed-Suche, wie wir sie bisher kennen … sie alle basieren auf KI. Und wenn überhaupt, die Black Boxes, würde ich sie als die Autopilot-Ära bezeichnen. Auf interessante Weise bewegen wir uns also von der Autopilot-Ära der KI zur Copilot-Ära der KI. Ich habe also eher das Gefühl, dass es schnell voranschreitet, aber schnell in die richtige Richtung.

CHAKRABARTI: Wir haben viel über eine Art Microsoft gesprochen. Aber ich möchte einfach schnell zu Google wechseln. Kannst du es irgendwie beschreiben? Ich habe das Gefühl, dass sie schon seit geraumer Zeit zwischen den beiden in Sachen KI in etwa an der Spitze liegen, wenn das eine zutreffende Aussage ist.

KNIGHT: Ja, absolut. Sie haben viele Dinge erfunden, die zu einigen dieser Fortschritte geführt haben, aber sie zögerten, einige Dinge zu veröffentlichen, weil sie sich schlecht benehmen könnten, was wir jetzt sehen. Und so waren sie ein wenig überrumpelt von dem, was Microsoft und die OpenAI tun, indem sie einige dieser großen Sprachmodelle veröffentlichen und zeigen, was man mit der Suche potenziell machen kann.

Und so kam es bei Google offenbar zu einer großen Panik, als man plötzlich meinte: „Wir müssen aufholen.“ Wir müssen alles daransetzen. Sie haben ihre beiden unterschiedlichen KI-Einheiten Google und DeepMind zusammengelegt. Und jetzt ist Demis Hassabis, wie Sie erwähnt haben, die Hauptdarstellerin beider. Und das ist einer dieser großen Momente wie die Internetwelle, von der Bill Gates vor Jahren sprach, als ihnen plötzlich klar wurde, dass wir aufholen müssen.

CHAKRABARTI: Ich habe einen Artikel in der New York Times gesehen, in dem es hieß, dass, glaube ich, Memos im Umlauf waren. Ich kann mich nicht erinnern, ob es bei Google oder bei Microsoft lag. Aber das heißt, dieses Rennen könnte in wenigen Wochen gewonnen oder verloren werden.

BASS: Das könnte Google gewesen sein. Das ist nicht das, was ich von Microsoft höre. Es ist eher kritisch, und vielleicht liegt es daran, dass sie das Gefühl haben, an der Spitze zu stehen. Als ich Satya Nadella fragte, dass er sich sehr darauf konzentriert habe, dass dies ein erster Hinweis sei und kein dauerhafter Hinweis. Wir sind uns der Tatsache bewusst, dass viele Märkte im Umbruch sind, darunter auch einige, die Microsoft braucht.

Und Sie wissen, wir haben uns hier stark auf den Chat konzentriert, aber einer der anderen wichtigen Vektoren für die Einführung von KI und den damit verbundenen Wettbewerb wird wieder Bürosoftware zwischen Microsoft und Google sein. Für Microsoft ist es eine Sache, mit Bing zu experimentieren, das einen Marktanteil von etwa 2 % hat. Es ist eine andere Sache für sie, bedeutende KI-Assistenten in ihre Büroprodukte zu integrieren, die, wie Sie wissen, das dominierende Flaggschiffprodukt sind, und das tun sie, wenn auch etwas vorsichtiger und etwas langsamer als vielleicht das Bing-Zeug.

CHAKRABARTI: Okay. Die Zeiten von Clippy sind also vorbei, sagen Sie.

BASS: Vielleicht ist das auch Clippy. Ich meine, da war ein Meme im Umlauf. Ich denke, es war wahrscheinlich um den 4. Mai herum … das war so eine Art „Du weißt schon, Clippy, ich bin dein Vater“-Meme mit Bing. Ich meine, das ist in gewisser Weise eine Erfüllung dessen, was Microsoft mit Clippy erreichen wollte und was es etwa 2016 mit seiner Art von Konversations-KI-Strategie erreichen wollte, die sie eingeführt hatten und die nicht wirklich zum Erfolg führte die Zeit, weil die Technologie damals nicht sehr gut war.

CHAKRABARTI: Okay. Nun ja, so gut. Um kurz auf das Memo zurückzukommen, das ich zitiert habe: Ich habe hier die Geschichte aus der New York Times. Und sie sagen, dass Sam Schillace, Technologiemanager bei Microsoft, in einer internen E-Mail geschrieben habe, die laut The Times eingesehen wurde. Und in dieser E-Mail sagte Schillace, dass es in diesem Moment absolut, Zitat, ein absolut fataler Fehler sei, sich über Dinge Sorgen zu machen, die später behoben werden können.

Und dieser plötzliche Wandel hin zu einer neuen Art von Technologie war von entscheidender Bedeutung, denn wie Schillace in diesem Memo schrieb, ist nach Ansicht der New York Times wiederum das Unternehmen, das als erstes ein Produkt auf den Markt bringt, der langfristige Gewinner. Nur weil sie zuerst angefangen haben. Manchmal wird der Unterschied in Wochen gemessen. Dina, da du diejenige bist, die Microsoft direkt betreut, wie klingt das für dich?

BASS: Offensichtlich geht Microsoft hier sehr schnell voran. Und ich meine, es ist kaum eine Woche vergangen, ohne dass sie ein neues KI-Produkt vorgestellt haben. Und das wirft die Frage auf, mit der Sie die Show begonnen haben: Wenn sie so besorgt darüber sind, welche Auswirkungen dies haben könnte, warum sollten sie es dann weiterhin mit großer Geschwindigkeit einführen?

Wissen Sie, wir wissen, dass das Unternehmen sehr schnell versucht hat, diese Dinge ans Licht zu bringen. Aber auch hier höre ich von ihnen, dass sie nicht glauben, dass die Tatsache, dass sie die Dinge zuerst eingeführt haben, bedeutet, dass sie der Gewinner sind. Sie sind der Meinung, dass hier großes Potenzial für Störungen besteht. Und, wissen Sie, wir haben das Büro erwähnt. Es gibt auch Störungen rund um die Cloud.

CHAKRABARTI: Um die Wolke herum. Okay. Bleiben Sie also einen Moment bei diesem Gedanken, denn wir haben hier nur ein kleines Stück Klebeband. Sie hatten über die anderen Produkte von Microsoft gesprochen. Und so stellte Microsoft im März bei einer Veranstaltung mit dem Titel „Zukunft der Arbeit mit KI“ Copilot vor, oder wir nennen es hier in diesem Gespräch Clippy 2.0. Es handelt sich um eine KI-Assistentenfunktion für Microsoft 365.

Copilot kombiniert die Leistungsfähigkeit großer Sprachmodelle mit Ihren Daten im Microsoft Graph und den Microsoft 365-Apps, um Ihre Wörter zum leistungsstärksten Produktivitätstool der Welt zu machen.

CHAKRABARTI: Gehen Sie davon aus, dass Google auch über die Suche hinaus KI in seine Produkte einführt?

KNIGHT: Ja, tatsächlich haben sie bei Google IOS bereits damit begonnen. Sie demonstrierten einige Dinge, die denen ähneln, die wir bei Office sehen, wo es Ihnen beim Schreiben hilft, ein Dokument schreibt, Ihnen hilft, eine E-Mail zu erstellen, in eine Tabellenkalkulation zu gehen und Dinge für Sie zu erledigen.

CHAKRABARTI: Okay. Sie haben also beide eine interessante Frage aufgeworfen: Offensichtlich sind die Produkte, in denen diese Dinge eingeführt werden, nur der oberflächliche Teil der Geschichte. Was meiner Meinung nach wirklich tiefer geht, ist, wenn die Leute über etwas so Grundlegendes wie Software sprechen. … Wie viel von der hektischen Aktivität, die wir derzeit zwischen Google und Microsoft sehen, dreht sich eher darum, ob sie in dieser neuen Technologie, in der generativen KI und in der Art und Weise, wie sie eingesetzt wird, führend sein können?

KNIGHT: Ich denke, ein großer Teil davon dreht sich darum. Und was ich von Leuten in einigen dieser Unternehmen höre, ist, dass die Führungskräfte manchmal nicht einmal auf die Technologen und diejenigen hören, die sich Sorgen um sie machen. Sie sind einfach verzweifelt daran interessiert, dieses Zeug herauszubringen und einen Vorsprung bei einer ihrer Ansicht nach grundlegenden Technologie zu erlangen, die sozusagen auf Milliarden von Computern eingeführt wird.

CHAKRABARTI: Und Dina, was denkst du über diese Frage?

BASS: Ich denke, das ist fair. Und sie machen einen kleinen Tanz zwischen der Aussage, dass wir versuchen, vorsichtig zu sein, und dass wir wissen, dass diese Produkte nicht perfekt funktionieren, und dass wir möchten, dass Sie wissen, auf welche Weise sie nicht funktionieren. Aber hier ist noch einer und hier ist noch einer. Und Sie sollten das versuchen, und nebenbei sollten Sie uns regulieren. Es ist ein bisschen der Versuch, ein bisschen Stepptanz zu machen.

CHAKRABARTI: Ich gehe noch einmal auf die Suche zurück, nur weil ich denke, dass dies der Berührungspunkt ist, den die Leute am tiefsten verstehen werden. Wie wird Ihrer Meinung nach das, was Google und Microsoft tun, die Art und Weise verändern, wie Menschen die Suche nutzen oder welche Informationen sie daraus erhalten?

KNIGHT: Ja, ich denke, das bleibt abzuwarten. Ich meine, wenn ich diese generative Suche versuche, ist es für mich erstaunlich, dass ich etwas habe, das halluziniert. Sachen erfinden, oder? Das ist nicht das, was wir von einer Suchmaschine erwarten. Und ich denke, es bleibt abzuwarten, ob die Vorteile die Grenzen völlig überwiegen werden. Zweifellos denke ich, dass es sich in gewisser Weise in die Suche einschleichen wird, es aber vielleicht nicht ganz verdrängen wird.

CHAKRABARTI: Ja. Wissen Sie, wir haben etwas früher in diesem Band von Googles Veröffentlichung der KI-gestützten Suche gehört, dass Cathy Edwards davon gesprochen hat: „Oh, das kann besonders nützlich für Ihre Fragen sein, die auch Fragen haben.“ Was glauben Sie, was sie damit vorhat?

KNIGHT: Ich denke, sie spricht von Folgefragen, bei denen Sie etwas fragen. Sie haben die Möglichkeit, eine klärende Frage beispielsweise an den Bing-Chat oder den Chatbot von Google zu stellen. So kann man mit diesen Dingen irgendwie in einen menschlicheren Dialog eintreten. Aber das wirft in meinem Kopf auch eine Menge Probleme auf, weil man diese Dinge sozusagen auf ein Niveau anthropomorphisiert, das sie nicht rechtfertigen, was viel Verwirrung stiftet und dazu führen kann, dass die Leute irgendwie falsch interpretieren, wovon sie reden zu und es kann Dinge sagen, die sehr seltsam rüberkommen.

CHAKRABARTI: Wir werden uns gleich noch mehr mit diesen Halluzinationen und Sorgen befassen. Aber, Dina, wissen Sie, Sie hatten vorhin erwähnt, dass es nicht überraschend ist, dass wir wieder einmal über Microsoft vs. Google sprechen. Soweit ich weiß, hatten sie jedoch zumindest für einige Zeit bis 2015 eine Art rechtlichen und regulatorischen Waffenstillstand geschlossen. Würden Sie es so beschreiben?

BASS: Ja. Es kam zu einer Art formeller Entspannung zwischen den beiden Unternehmen. Es war nicht so, dass sie nicht konkurrieren würden. Sie konkurrierten immer noch sehr intensiv. Auch hier gilt, dass Google versucht, Microsoft im Büro- und Produktivitätsbereich mehr Aufträge abzunehmen. Sie einigten sich jedoch darauf, sich bei den Aufsichtsbehörden nicht übereinander zu beschweren. Das ist in den letzten Jahren auseinandergefallen. Beide haben sich lautstark bei den Aufsichtsbehörden übereinander beschwert. Und das fügt eine weitere Dimension hinzu. Wenn wir uns diesen KI-Kampf ansehen, zeigt sich eine weitere Dimension der Feindseligkeit zwischen den beiden Unternehmen.

Okay, also, Dina, und wir warten hier noch einen Moment, denn ich möchte Sarah Myers West in das Gespräch einbeziehen. Sie ist Geschäftsführerin des AI Now Institute, das die sozialen Auswirkungen künstlicher Intelligenz untersucht. Willkommen bei On Point, Sarah.

SARAH MYERS WEST: Danke, dass ich dabei bin.

CHAKRABARTI: Als ich die Show vorstellte, waren beide, Sie wissen schon, hochrangige Leute bei Microsoft und Google unter den Unterzeichnern eines weiteren KI-Warnschreibens, in dem es heißt, dass es sich um eine existenzielle Bedrohung handeln könnte. Wir müssen reguliert werden. Dann, wie Dina und wir uns sehr sorgfältig dargelegt haben, vertreiben sie immer noch diese Produkte, die wirklich Milliarden von Menschen jeden Tag nutzen, wohlwissend, dass diese generativen KI-Produkte in der Suche manchmal Halluzinationen hervorrufen, was mein liebster Grusel sein wird Wort der Woche hier. Ich meine, ist es für diese Unternehmen nicht etwas unverantwortlich, dies zu tun, Sarah?

MYERS WEST: Ich meine, es scheint, als wären wir zurück in der Ära der Technik, in der alles schnell erledigt werden kann. Wo sie im Wesentlichen in freier Wildbahn mit diesen Technologien experimentieren, auch wenn sie sich eingestehen, dass sie nicht wirklich vollständig validiert oder getestet oder marktreif sind.

Ich meine, Dana hat es perfekt ausgedrückt, dass wir alle Betatester dafür sind, aber es ist etwas, eine neue Version eines Betriebssystems als Betatest zu testen. Oder Betatests, ich weiß nicht, eine neue App oder die neueste Version von Word. Es ist etwas völlig anderes, ein Produkt im Betatest zu testen und im Gegenzug Informationen zu erhalten, von denen man nicht sicher sein kann, ob sie wahr sind oder nicht.

Und Sie können sich darauf verlassen, dass dies ein Produkt ist, das Ihnen wahrheitsgemäße Antworten gibt. Ich meine, es scheint mir mehr zu sein, als nur ein bisschen mit dem Feuer zu spielen. Ich meine, gibt es Systeme, die Unternehmen dazu bringen, mehr darüber in der Welt der KI nachzudenken, bevor sie die Produkte auf den Markt bringen?

MYERS WEST: Das ist eine wirklich gute Frage. Und diese Unternehmen sind sich dieser Bedenken schon seit langem bewusst. Ich möchte bereits erwähnen, dass Google seit 2015 an der zugrunde liegenden Technologie arbeitet und aufgrund dieser Risiken zögerlich ist, sie einzuführen. Auch OpenAI arbeitet seit einiger Zeit an dieser Technologie. Und wenn Sie sich an das Jahr 2019 erinnern, als sie kurz vor der Veröffentlichung des GPT-2-Modells standen, das eine Art Vorläufer von GPT-4 ist, der Engine, die ChatGPT antreibt, sagte OpenAI, dass dies zu gefährlich für eine öffentliche Veröffentlichung sei und wir werden es tun zurückhalten.

Jetzt hat es seine Meinung geändert. Aber wissen Sie, wenn Sie auf diesen Moment zurückblicken, haben sie viele der gleichen Bedenken hinsichtlich der Gefahr von Betrug, der Verbreitung von Fehlinformationen und Cybersicherheitsrisiken geäußert. Und diese zugrunde liegenden Risiken sind offensichtlich nicht verschwunden. Was meiner Meinung nach an diesem Moment wirklich entscheidend ist, ist, dass die Regulierungs- und Strafverfolgungsbehörden sehr deutlich zum Ausdruck bringen, dass sie die Absicht haben, bestehendes Recht auf diese Systeme anzuwenden.

Und es gibt einen ziemlich klaren Rahmen für die Anwendung dieser Regeln. Dinge wie die Täuschungsbehörden der FTC zum Beispiel haben ziemlich klar gesagt, dass das nicht in Ordnung ist, auch wenn es nicht die Absicht des Systems ist. Wenn Sie etwas produzieren, das Betrug in großem Umfang ermöglicht, verstößt das gegen das Gesetz.

CHAKRABARTI: Wenn es also so klar ist, würde es so aussehen, als ob diese Produkte derzeit gegen das Gesetz verstoßen, weil sie Informationen veröffentlichen, die nicht immer korrekt sind.

MYERS WEST: Ich meine, es wirft die Frage auf, warum die Unternehmen bereit wären, Systeme einzuführen, die sehr wohl illegal sein könnten, oder warum es zumindest nicht genügend Schutzmaßnahmen gibt, um diese Art von Verhalten zu verhindern.

CHAKRABARTI: Will, ich möchte Ihnen hier eine Frage stellen. Ist Teil des unwiderstehlichen Drangs, diese Produkte herauszubringen, auch wenn es sowohl bei Microsoft als auch bei Google offenbar ziemlich heftige Diskussionen darüber gibt, ob sie das tun sollten oder nicht. Besteht ein unwiderstehlicher Drang, dass diese großen Sprachmodelle mehr Informationen benötigen, damit sie besser werden? Und der beste Weg, dies zu tun, besteht darin, sie gerne auf Menschen loszulassen.

KNIGHT: Das ist ein großartiger Punkt. Und es ist tatsächlich ein wirklich wichtiger Grund, warum sie so sehr eilen. Einer der Gründe, warum diese Modelle so gut sind, liegt darin, dass sie anhand des Feedbacks von Menschen optimiert wurden. Wenn sie also denken, dass es eine gute Antwort ist, ist es eine schlechte Antwort. Und Sie können dafür Leute einstellen, oder Sie können dies über Benutzer tun. Also, ja, einer der Vorteile von Microsoft OpenAI besteht darin, dass sie über eine enorme Benutzerbasis verfügen … und sie werden nicht langsamer werden, weil sie auf diesem Vorteil aufbauen.

CHAKRABARTI: Sie können sich vorstellen, dass, sagen wir, Google mit mehr als 8,5 Milliarden Suchanfragen pro Tag, selbst wenn ein kleiner Teil dieser Suchanfragen über die KI-gestützte Suche durchgeführt wird, das eine riesige Menge an Informationen sein wird.

KNIGHT: … Je mehr Daten Sie von Benutzern erhalten können, desto mehr können Sie ihnen zur Verfügung stellen, desto besser.

CHAKRABARTI: Hören wir uns also noch ein bisschen die großen Stimmen aus der Welt der KI an. Sie haben in den letzten Wochen wahrscheinlich von einem Mann namens Geoffrey Hinton gehört. Er gilt als einer der drei Paten der KI, die bis zu seinem Rücktritt letzten Monat bei Google tätig waren.

GEOFFREY HINTON: Worüber ich hauptsächlich gesprochen habe, ist das, was ich die existenzielle Bedrohung nenne, also die Möglichkeit, dass sie intelligenter werden als wir und die Macht übernehmen. Sie werden die Kontrolle bekommen.

CHAKRABARTI: Das ist also Geoffrey Hinton. Da ist auch Sam Altman. Er ist der CEO von OpenAI und hat kürzlich mit der New Yorker Radio Hour gesprochen und eine grundlegende Frage gestellt, über die er nachdenkt. Ist KI ein Werkzeug oder eine Kreatur?

SAM ALTMAN: Dieses System ist ein System, das Text aufnimmt, komplizierte Statistiken darüber erstellt und weiteren Text ausgibt. Und daraus kann erstaunliches Emergenzverhalten entstehen. Wie wir gesehen haben, kann dies das Denken eines Menschen erheblich beeinflussen. Und dafür brauchen wir viele Einschränkungen. Aber ich glaube nicht, dass wir auf dem Weg sind, hier eine Kreatur zu erschaffen. Nun können Menschen das Tool wirklich in großem Umfang missbrauchen, und darüber mache ich mir große Sorgen. Viel mehr, als ich mir im Moment Sorgen mache, ist das Science-Fiction-artige Zeug, dass dieses Ding aufwacht und die Kontrolle verliert.

CHAKRABARTI: Also Sarah Myers West, antworten Sie auf das, was Sam Altman dort sagt, denn natürlich sind es sozusagen die existenziellen Warnungen, die alle Schlagzeilen erregen, auch unsere Aufmerksamkeit. Aber dass vor dem Szenario des Kontrollverlusts noch eine ganze Welt voller Sorgen auftauchen würde, über die wir vielleicht nicht genug nachdenken.

MYERS WEST: Auf jeden Fall. Weißt du, dieser Clip hat mich einfach an dieses wirklich tolle Interview erinnert, das ich am Wochenende mit dem Science-Fiction-Autor Ted Chiang gelesen habe, in dem er gefragt wurde, was würdest du zur Beschreibung von KI verwenden, wenn es nicht die Begriffe „KI“ gäbe? . Und seine unmittelbare Reaktion waren angewandte Statistiken. Wissen Sie, hinter dem Begriff „künstliche Intelligenz“ steckt eine Menge Bedeutung, die ihm, wissen Sie, diese Art von kultureller Macht verleiht, die uns alle, wissen Sie, aufgeregt und besorgt über ihre Auswirkungen macht.

Aber was wir von einer Reihe von Unternehmensleitern gehört haben, von denen wir heute Clips gehört haben, ist ein konsequenter Refrain darüber, dass es sich erstens im Wesentlichen um eine Art Datenvorhersage-Engine handelt, und zweitens, dass sie bereits weit verbreitet sind verwenden. Das Besondere an diesem Moment ist, dass es jetzt eine Schnittstelle gibt, mit der Menschen interagieren können und die unserem Verständnis von KI einen ganz anderen Tenor verleiht.

Aber wenn es sich im Wesentlichen um statistische Mechanismen zur Suche nach Mustern handelt, haben sie sich als wirklich gut darin erwiesen, historische Muster sozialer Ungleichheit und solche Muster, wo wir es brauchen, zurückzuspiegeln und zu verstärken Wir legen unseren größten Fokus auf den Einsatz von KI im Gesundheitswesen und in der Bildung.

Ob Sie zu einem Vorstellungsgespräch eingeladen werden oder wie hoch der Zinssatz für Ihre Hypothek sein wird. Was wir immer wieder beobachten, ist die Tendenz von KI-Systemen, historische Muster der Rassendiskriminierung und geschlechtsspezifischen Diskriminierung zu verstärken. Und darauf müssen wir meiner Meinung nach den größten Fokus legen.

CHAKRABARTI: Wissen Sie, als ich noch einmal über den Ruf nach Regulierung nachdachte oder zumindest, wissen Sie, eine lebhaftere Diskussion rund um die Regulierung, die dieselben Technologen, wie Sie wissen, dieses Jahr immer wieder vorbringen, ließ mich Dina darauf zurückgreifen du auf etwas. Da ich mir vorstelle, dass wir uns bereits in einem Bereich einer neuen Art von Ungleichheit befinden, würde ich es Informationsungleichheit nennen. Und wir könnten an dieser Front mit rasender Geschwindigkeit auf eine noch größere Ungleichheit zusteuern.

Wenn andererseits die Regulierungsbehörden morgen bekannt geben würden, sagen wir mal, die FTC würde morgen bekannt geben, nun ja, wissen Sie, wir haben Ihre KI ausprobiert, Ihre generative KI-Suche. Wir sehen, dass es ungenaue Informationen oder aus dem Kontext gerissene Antworten generiert oder halluziniert. Und es verstößt eindeutig gegen das Gesetz.

Wir werden Sie daran hindern, es zu verwenden. Wir werden sagen, dass Sie dieses Produkt derzeit nicht auf der Welt haben können. Wissen Sie, auch wenn Microsoft sagt: „Hey, vielleicht sollten wir die KI regulieren.“ Dina, ich meine, Microsoft hat in der Vergangenheit auch alles getan, um jede Art von Regulierung gegen dieselben Unternehmen zu bekämpfen, und seien wir ehrlich, Google hat alles in seiner Macht Stehende getan. Ich meine, wie würden sie reagieren, wenn sie tatsächlich in Bezug auf KI reguliert würden?

BASS: Microsoft fordert bereits seit mehreren Jahren Regelungen zu KI. Aber wie Sie betonen, sind es die Vorschriften, die sie wollen. Sie wollen, dass es bis zu einem bestimmten Punkt geht und nicht weiter. Aber wir haben Vorschriften zur Sicherheit aller Arten von Produkten. Oft wird das Beispiel eines Autos herangezogen. Man erlaubt nicht einfach jemandem, ein Elektrofahrzeug zu entwerfen und damit durch die Straßen zu fahren.

Und, wissen Sie, ich möchte bestätigen, dass die Vorstellung, dass diese KI-Systeme bereits erhebliche Probleme in Bezug auf rassistische Vorurteile und geschlechtsspezifische Vorurteile haben, die Dinge, über die wir uns im Moment Sorgen machen müssen, nicht unbedingt das sind, worauf sich Dr. Hinton konzentriert Möglichkeit einer übermenschlichen Kraft in der Zukunft, von der wir nicht einmal sicher sind, ob KI sie erreichen kann. Die Probleme sind die Dinge, die wir bereits sehen und die nicht behandelt werden. Wissen Sie, wir stehen vor einer Wahl in den USA und da gibt es ein Problem. Die Sorge besteht nicht darin, dass man eine alberne Antwort bekommt, wenn man fragt, warum die Fluggesellschaften so schlecht sind.

Die Sorge besteht darin, dass es sich hierbei um generative Werkzeuge handelt, was bedeutet, dass sie neue Inhalte erstellen können, die irreführend sein können, Deepfakes, Sie wissen schon, Bilder, die nicht real sind. Und dass es für die Leute möglicherweise nicht möglich ist, zu erkennen, dass diese Dinge gefälscht sind. Dies sind Probleme, auf die KI-Forscher und Ethiker in Unternehmen wie Google und Microsoft seit Jahren hinweisen.

Und sie haben nicht viel Anklang gefunden, wenn es darum geht, ihnen zuzuhören. Als Ausnahme von dem, was Dr. Hinton sagt, hat er, als er bei Google war, Leute wie Dr. Timnit Gebru und Dr. Margaret Mitchell nicht unterstützt, die sich mit genau diesen Themen von unmittelbarer Besorgnis und der KI befassen.

Dieser Artikel wurde ursprünglich auf WBUR.org veröffentlicht.

Copyright 2023 NPR. Weitere Informationen finden Sie unter https://www.npr.org.