Amazon Q: μεταξύ παραισθήσεων και διαρροών δεδομένων, συναγερμός εργαζομένων. Υπάρχει κάτι ανησυχητικό;
Πρόσφατα, Η Amazon ξεκίνησε Το AI chatbot Amazon Q, κεντρίζοντας το ενδιαφέρον των εταιρειών, αλλά και τις ανησυχίες των εργαζομένων για σοβαρά ζητήματα ακρίβειας και απορρήτου. Το Q αναφέρθηκε ότι είχε "παραισθήσεις του μη poco λογαριασμός» και αποκάλυψε εμπιστευτικά δεδομένα, εγείροντας ερωτήματα σχετικά με την ασφάλεια των εταιρικών πληροφοριών. Εδώ είναι οι λεπτομέρειες που αποκαλύπτει Πλατφόρμας.
Ειδοποίηση ασφαλείας για το Amazon Q: μεταξύ εμπιστευτικών δεδομένων και λανθασμένων απαντήσεων
Amazon εισήγαγε Το chatbot τεχνητής νοημοσύνης του, που ονομάζεται Q, πριν από τρεις ημέρες, αλλά δεν φαίνεται να πάνε όλα όπως είχε προγραμματιστεί. Ορισμένοι υπάλληλοι έχουν σημάνει συναγερμό σχετικά με ζητήματα ακρίβειας και απορρήτου: το Amazon Q θα είχε εκδηλώσει "παραισθήσεις" και θα αποκάλυπτε πληροφορίες εμπιστευτικός, όπως η τοποθεσία των κέντρων δεδομένων AWS, τα εσωτερικά προγράμματα εκπτώσεων και οι λειτουργίες που δεν έχουν ακόμη κυκλοφορήσει.
Αυτές οι πληροφορίες προέκυψαν από έγγραφα που διέρρευσαν και ελήφθησαν από Πλατφόρμας, τονίζοντας α Ζήτημα ασφαλείας επιπέδου 2, μια σοβαρή κατάσταση που απαιτεί επείγουσα επέμβαση μηχανικών.
Παρόλα αυτά, η Amazon έχει υποβαθμίσει τη σημασία αυτών των εσωτερικών συζητήσεων. Ένας εκπρόσωπος είπε ότι η κοινή χρήση του ανατροφοδότηση μέσω εσωτερικών καναλιών αποτελεί συνήθη πρακτική στην Amazon και ότι δεν εντοπίστηκαν ζητήματα ασφάλειας ως αποτέλεσμα αυτού του σχολίου. Η εταιρεία υπογράμμισε τη σημασία των σχολίων που έλαβε και την επιθυμία να συνεχίσει βελτιώστε το Amazon Q καθώς μεταβαίνει από την προεπισκόπηση στη γενική διαθεσιμότητα.
Το Amazon Q, διαθέσιμο προς το παρόν σε δωρεάν προεπισκόπηση, παρουσιάστηκε ως α εταιρική έκδοση λογισμικού ενός chatbot, με αρχικές λειτουργίες που στοχεύουν στην απάντηση σε ερωτήσεις προγραμματιστών σχετικά με το AWS, στην τροποποίηση των πηγαίων κωδίκων και στην αναφορά πηγών. Η Amazon έχει δώσει έμφαση στην ασφάλεια και το απόρρητο του Q, αντιπαραβάλλοντάς το με εργαλεία καταναλωτικής ποιότητας όπως το ChatGPT.
Ωστόσο, ένα εσωτερικό έγγραφο αποκάλυψε ότι το Q μπορεί να έχει «παραισθήσεις» και να παρέχει επιβλαβείς ή ακατάλληλες απαντήσεις, όπως π.χ. ξεπερασμένες πληροφορίες ασφαλείας που θα μπορούσε να θέσει σε κίνδυνο τους λογαριασμούς των πελατών. Αυτοί οι κίνδυνοι είναι τυπικοί για μεγάλα γλωσσικά μοντέλα, τα οποία τείνουν να παρέχουν εσφαλμένες ή ακατάλληλες απαντήσεις τουλάχιστον σε ορισμένες περιπτώσεις.
Μέσω | Slashdot
