Microsoft створила сервіс Azure AI Studio, який бореться з хакерами, які через шкідливі дані додають в чатбот код, й потім бот краде інформацію про користувача або захоплює всю систему. Про це пише Bloomberg.
Йдеться про боти на основі штучного інтелекту. Новий інструмент має виявляти та блокувати спроби змусити ШІ-модель поводитися непередбачувано.
Також компанія впроваджує функцію попередження користувачів, коли ШІ-модель вигадує щось або генерує помилкові відповіді.
Нові засоби захисту призначені для виявлення підозрілих вхідних даних і їх блокування в режимі реального часу.
У Microsoft наголошують, що кількість атак з генерацією «дивних та шкідливих» відповідей зростає, адже збільшується кількість користувачів ботів на основі ШІ.
Сервіс Azure AI Studio займається контролем над чатботами ШІ.
Нагадаємо, МОН впровадить ШІ для підвищення ефективності навчального процес.
