Amazon F: Zwischen Halluzinationen und Datenlecks, Mitarbeiteralarm. Gibt es etwas, worüber man sich Sorgen machen muss?
Vor kurzem Amazon ist gestartet Sein KI-Chatbot Amazon Q weckte Interesse bei Unternehmen, aber auch Bedenken bei Mitarbeitern hinsichtlich schwerwiegender Genauigkeits- und Datenschutzprobleme. Q wurde gemeldet, weil er „Halluzinationen von nicht poco Konto”und vertrauliche Daten offengelegt, was Fragen zur Sicherheit von Unternehmensinformationen aufwirft. Hier sind die Details, die von bekannt gegeben wurden Platformer.
Sicherheitswarnung für Amazon Q: Zwischen vertraulichen Daten und falschen Antworten
Amazon eingeführt Sein KI-Chatbot namens Q wurde vor drei Tagen veröffentlicht, aber nicht alles scheint wie geplant zu laufen. Einige Mitarbeiter haben wegen Fragen der Genauigkeit und des Datenschutzes Alarm geschlagen: Amazon Q hätte „Halluzinationen“ gezeigt und enthüllt Informationen vertraulichB. den Standort von AWS-Rechenzentren, interne Rabattprogramme und noch nicht veröffentlichte Funktionen.
Diese Informationen stammen aus durchgesickerten und beschafften Dokumenten Platformer, Hervorhebung von a Sicherheitsproblem der Stufe 2, eine ernste Situation, die ein dringendes Eingreifen der Ingenieure erfordert.
Trotzdem hat Amazon die Bedeutung dieser internen Diskussionen heruntergespielt. Ein Sprecher sagte die Weitergabe von Feedback über interne Kanäle Dies ist bei Amazon gängige Praxis und aufgrund dieses Feedbacks wurden keine Sicherheitsprobleme festgestellt. Das Unternehmen betonte die Bedeutung des erhaltenen Feedbacks und den Wunsch, weiterzumachen Verfeinern Sie Amazon Q beim Übergang von der Vorschau zur allgemeinen Verfügbarkeit.
Amazon Q, derzeit in einer kostenlosen Vorschau verfügbar, wurde als vorgestellt Unternehmenssoftwareversion eines Chatbots, dessen erste Funktionen darauf abzielen, Entwicklerfragen zu AWS zu beantworten, Quellcodes zu ändern und Quellen zu zitieren. Amazon hat die Sicherheit und den Datenschutz von Q hervorgehoben und es mit Tools für Endverbraucher wie ChatGPT verglichen.
Ein internes Dokument ergab jedoch, dass Q „halluzinieren“ und schädliche oder unangemessene Reaktionen hervorrufen kann, wie z Veraltete Sicherheitsinformationen Dies könnte Kundenkonten gefährden. Diese Risiken sind typisch für große Sprachmodelle, die zumindest in einigen Fällen dazu neigen, falsche oder unangemessene Antworten zu geben.
Via | Slashdot
