Зафиксированы первые случаи, когда нейросети игнорируют инструкции людей
Современная реализация нейронных сетей может во многом помочь людям и даже заменить некоторых из них, однако их возможности всё ещё сильно ограничены. Правда, это не мешает им уже в текущем состоянии игнорировать инструкции людей, полагаясь на собственные «чувства». Исследователи из Palisade Research провели эксперимент, ключевой задачей которого было изучение безопасности нейронных сетей. Тестирование выглядело следующим …