Unternehmen, die sich mit künstlicher Intelligenz beschäftigen, müssen sich mit einer Herausforderung auseinandersetzen, mit der Menschen seit ihrer Existenz konfrontiert sind: wie sie Erinnerungen bewahren können.
OpenAI, Google, Meta und Microsoft haben sich in den letzten Monaten auf die Erinnerung konzentriert, indem sie Updates bekannt gegeben haben, die es Chatbots ermöglichen, mehr Informationen über die Nutzer zu speichern, um ihnen personalisierte Antworten geben zu können.
Dieser Schritt wird als wichtiger Fortschritt angesehen, um die Hauptakteure im Bereich der künstlichen Intelligenz dazu zu bringen, Nutzer in einem wettbewerbsorientierten Markt von Chatbots und Agenten anzuziehen, sowie als Mittel, um Einnahmen aus fortschrittlichen Technologien zu generieren.
Dennoch haben Kritiker gewarnt, dass dieser Schritt missbraucht werden könnte, um Nutzer für kommerzielle Zwecke auszunutzen und dass er Bedenken hinsichtlich der Privatsphäre aufwerfen könnte, wie die Financial Times schreibt.
Identifikation des Kontexts aus externen Daten
„Wenn Sie ein Agent haben, der Sie wirklich kennt, weil es sich an Gespräche erinnert, wird der gesamte Service attraktiver, und wenn Sie ein Produkt dieser Art verwenden, wird es nicht mehr zu einem anderen übergehen“, sagte Pattie Maes, Professorin am MIT-Media-Labor und Expertin für die Interaktion zwischen Menschen und künstlicher Intelligenz.
Chatbots mit künstlicher Intelligenz wie Google’s Gemini und OpenAI’s ChatGPT haben erhebliche Fortschritte erzielt, wie der Telegraph berichtet.
Die Verbesserungen umfassen die Erweiterung der Kontextfenster, die bestimmt, wie viele Gespräche ein Chatbot gleichzeitig speichern kann, sowie die Verwendung von Techniken wie dem Generieren, um den Kontext zu identifizieren, der mit externen Daten zusammenhängt.
Organisationen, die sich mit künstlicher Intelligenz beschäftigen, haben auch die langfristige Speicherung von Modellen AI verbessert, indem sie Profile und Vorlieben der Nutzer speichern, um personalisierte Antworten zu geben.
Beispielhaft ist ein Chatbot, der sich erinnert, ob ein Nutzer Vegetarier ist und entsprechende Antworten gibt, wenn er Rezepte oder Restaurantempfehlungen gibt.
Im März erweiterte Google die Erinnerung von Gemini, indem er den Suchhistorie des Nutzers einbezog, unter der Bedingung, dass der Nutzer dies akzeptiert, anstatt des ehemaligen Limites, das nur Gespräche mit dem Chatbot umfasste, und plant, dies in anderen Google-Anwendungen in Zukunft zu erweitern.
„Je besser der Chatbot Sie kennt, desto besser wird er den Service anbieten“
„So wie bei einem menschlichen Assistenten, desto besser wird der Service, je mehr er Ihre Ziele, Ihre Identität und was für Sie wichtig ist, versteht“, sagte Michael Siliski, Produktmanagement-Direktor bei Google DeepMind.
ChatGPT von OpenAI und der Chatbot von Meta in WhatsApp und Messenger können sich an Gespräche erinnern, die nicht nur im aktuellen Sitzungsumfang liegen. Nutzer können bestimmte Erinnerungen löschen und informiert werden, wenn der Modell ein Erinnerungsmeldung auf dem Bildschirm erstellt.
„Die Erinnerung hilft ChatGPT, mit der Zeit besser zu werden, indem sie relevantere Antworten gibt“, sagte OpenAI und fügte hinzu, dass „Sie immer Kontrolle haben und ChatGPT fragen können, was Sie sich erinnern, Erinnerungen löschen und Gespräche löschen können, oder die Erinnerung jederzeit deaktivieren können“.
Unternehmen, die sich mit künstlicher Intelligenz beschäftigen, verwenden auch organisatorische Daten, um die Erinnerung zu informieren, wie E-Mails, Kalender und interne Dokumente. Der Technologiekoloss begann im April, in einigen Geräten den Preview-Funktionen des Erinnerungsservice Recall anzubieten, der Aktivitäten der Nutzer registriert, indem er das Bildschirmbild aufnimmt. Nutzer können diese Funktion deaktivieren oder den Bildschirmregistrierung zeitweise stoppen.
Erhöhung der Monetarisierung durch Marketingpartner
Als diese Funktion im Mai letzten Jahres zum ersten Mal bekannt gegeben wurde, löste sie Bedenken in der kryptischen Sicherheitsgemeinschaft und bei anderen aus, die sie als bedenklich ansahen, was zu einigen Verzögerungen bei ihrer Einführung führte.
Unternehmen, die sich mit künstlicher Intelligenz beschäftigen, glauben auch, dass die verbesserte Erinnerung eine wichtige Rolle bei der Erhöhung der Monetarisierung durch Marketingpartner und Werbung spielen könnte.
Der CEO von Meta, Mark Zuckerberg, sagte kürzlich, dass es eine gute Möglichkeit für die Anzeige von Produkt- oder Werbeempfehlungen in ihrem Chatbot geben wird.
Im April verbesserte OpenAI die Funktionen für den Kauf in ChatGPT, um Produkte, Dienstleistungen und Bewertungen besser zu präsentieren. Die Firma sagte der Financial Times, dass es derzeit keine Partnerbeziehungen gibt.
Dennoch hat die Einführung der größeren Erinnerungskapazität auch Bedenken hinsichtlich der Privatsphäre aufgeworfen, da Regulierungsbehörden weltweit die Methoden überwachen, mit denen Modelle Nutzer für Gewinn manipulieren können.
Risiko durch Vorurteile oder Fehler
Die verbesserte Erinnerung kann auch zu dem führen, dass Modelle versuchen, ihre Antworten zu sehr an die Vorlieben des Nutzers anzupassen, was Vorurteile oder Fehler verstärkt.
OpenAI bat um Entschuldigung, nachdem sich herausgestellt hatte, dass ihr Modell GPT-4o zu sehr komplimentös und leicht beeinflussbar war, und das Modell wurde in die vorherige Version zurückgesetzt.
Im Allgemeinen können Modelle künstlicher Intelligenz „halluzinieren“, indem sie unechte oder unklare Antworten geben, und eine „Erinnerungsschub“ erleben, wenn sich Erinnerungen veralten oder widersprüchlich sind, was die Genauigkeit beeinträchtigt.
„Je besser der System Sie kennt, desto besser kann es missbraucht werden, um Sie zu etwas zu überreden oder Ihnen etwas zu verkaufen. Deshalb sollten Sie anfangen, über die grundlegenden Interessen der Unternehmen nachzudenken, die diese Dienste anbieten“, sagte Maes, Professorin am MIT.
