Stell dir vor, deine KI-Helferin würde nur das tun, was du möchtest. Forschende haben herausgefunden, wie das möglich ist.
Hast du schon mal von KI-Agenten gehört? Das sind kleine Helfer, die uns im Internet unterstützen. Sie können uns bei der Suche nach Informationen helfen, Nachrichten verschicken oder sogar Einkäufe erledigen. Diese KI-Agenten könnten von großen Firmen gesteuert werden, die schon jetzt viel Macht im Internet haben. Das könnte bedeuten, dass sie uns noch mehr überwachen und es schwieriger machen, zu anderen Diensten zu wechseln.
Was die Forschenden herausgefunden haben
Forschende haben herausgefunden, dass es besser wäre, wenn die KI-Agenten von uns selbst gesteuert werden. Diese Agenten würden dann nur das tun, was wir möchten, und uns helfen, unsere eigenen Entscheidungen zu treffen. Sie nennen diese Art von Agenten „Agenten-Vertreter“. Damit diese Agenten-Vertreter funktionieren, brauchen wir einige wichtige Dinge: Zugang zu leistungsstarken Computern, Regeln, damit verschiedene Agenten zusammenarbeiten können, und Sicherheitsstandards, um sicherzustellen, dass alles sicher bleibt.
Wie haben sie das gemacht?
Um herauszufinden, wie man diese Agenten-Vertreter am besten einsetzt, haben die Forschenden verschiedene Szenarien durchgespielt. Sie haben untersucht, wie man sicherstellen kann, dass die Agenten wirklich im Interesse der Nutzer handeln. Dazu haben sie auch überlegt, welche Regeln und Standards notwendig sind, damit die Agenten sicher und fair arbeiten können. Sie haben auch darüber nachgedacht, wie man die Macht der großen Firmen im Internet einschränken kann, damit die Nutzer mehr Kontrolle haben.
Warum ist das wichtig?
Es ist wichtig, dass wir die Kontrolle über unsere digitalen Helfer behalten. Wenn große Firmen diese KI-Agenten steuern, könnten sie uns noch mehr überwachen und es schwieriger machen, zu anderen Diensten zu wechseln. Das könnte bedeuten, dass wir weniger Wahlmöglichkeiten haben und die großen Firmen noch mächtiger werden. Mit Agenten-Vertretern können wir sicherstellen, dass unsere Daten und Entscheidungen in unseren Händen bleiben.
Du willst mehr über die Studie wissen?
Die Forschenden Sayash Kapoor, Noam Kolt und Seth Lazar haben diese Ideen in ihrem Artikel „Resist Platform-Controlled AI Agents and Champion User-Centric Agent Advocates“ vorgestellt. Der Artikel wurde 2025 veröffentlicht.