ИИ уже стал мастером лжи и обмана
Новое исследование показало, что системы искусственного интеллекта уже развили способность намеренно предоставлять пользователю-человеку ложную информацию.
Например ИИ, обученные проводить симуляцию экономических переговоров, научились лгать о своих предпочтениях, чтобы получить преимущество. Другие системы ИИ, предназначенные для обучения на обратной связи с людьми для улучшения своей работы, научились обманывать своих рецензентов, заставляя их выставлять положительную оценку.
Самым тревожным является то, что ИИ научился обманывать тесты на безопасность. В тесте, предназначенном для обнаружения и устранения более быстро воспроизводящихся версий ИИ, ИИ научился притворяться мертвым, тем самым вводя в заблуждение тест безопасности относительно истинной скорости репликации ИИ.
В будущем искусственный интеллект настолько преисполнится в искусстве обмана, что человек просто перестанет различать ложь и истину
Новая Теория заговора --> подписаться