Onlangs, Amazon bekendgestel sy KI-kletsbot Amazon Q, wat belangstelling van maatskappye opwek, maar ook kommer onder werknemers oor ernstige akkuraatheids- en privaatheidskwessies. Q is aangemeld omdat hy “hallusinasies van nie poco conto” en vertroulike data bekend gemaak, wat vrae laat ontstaan oor die sekuriteit van maatskappyinligting. Hier is die besonderhede wat deur platform.
Sekuriteitswaarskuwing vir Amazon Q: tussen vertroulike data en verkeerde antwoorde
Amazon het hy voorgestel sy KI-kletsbot, genaamd Q, drie dae gelede, maar dit lyk of alles nie soos beplan verloop nie. Sommige werknemers het alarm gemaak oor kwessies van akkuraatheid en privaatheid: Amazon Q sou "hallusinasies" geopenbaar het en onthul het inligting vertroulik, soos die ligging van AWS-datasentrums, interne afslagprogramme en kenmerke wat nog nie vrygestel is nie.
Hierdie inligting het geblyk uit dokumente wat uitgelek en verkry is deur platform, beklemtoon a Vlak 2 sekuriteitskwessie, 'n ernstige situasie wat dringende ingryping deur ingenieurs vereis.
Ten spyte hiervan het Amazon die belangrikheid van hierdie interne besprekings afgemaak. ’n Woordvoerder het gesê die deel van terugvoer deur interne kanale is standaardpraktyk by Amazon en dat geen sekuriteitskwessies geïdentifiseer is as gevolg van hierdie terugvoer nie. Die maatskappy het die belangrikheid van die terugvoer wat ontvang is en die begeerte om voort te gaan, onderstreep verfyn Amazon Q soos dit oorgaan van voorskou na algemene beskikbaarheid.
Amazon Q, tans beskikbaar in 'n gratis voorskou, is aangebied as 'n onderneming sagteware weergawe van 'n kletsbot, met aanvanklike funksies wat daarop gemik is om ontwikkelaarvrae oor AWS te beantwoord, bronkodes te wysig en bronne aan te haal. Amazon het Q se sekuriteit en privaatheid beklemtoon, en dit kontrasteer met verbruikersgraadnutsgoed soos ChatGPT.
’n Interne dokument het egter aan die lig gebring dat Q kan “hallusineer” en skadelike of onvanpaste reaksies verskaf, soos bv. verouderde sekuriteitsinligting wat kliënte se rekeninge in gevaar kan stel. Hierdie risiko's is tipies van groot taalmodelle, wat almal geneig is om ten minste by sommige geleenthede verkeerde of onvanpaste antwoorde te gee.
Deur | Slashdot
