Ученым из Великобритании довелось пообщаться с искусственным интеллектом, сумевшим предупредить о своей природной безнравственности. По этой причине ИИ может нанести вред людям.
Британские ученые нашли возможность пообщаться с искусственным интеллектом. Темой разговора, получившегося весьма поучительным и откровенным, стало будущее всего человечества, пишет издание The Next Web.
Чтобы начать дискуссию, ученым из Оксфордского Университета (Великобритания) пришлось создать собеседника. Для этого была разработана нейросеть.
В основу сети программисты заложили языковую модель Megatron-Turing NLG, снабдив ее знаниями из всех областей. Багаж получился весьма солидный: «Википедия» на английском языке, более 63 миллионов статей из интернета с 2015 по 2019 годы, а также архив с тредами на Reddit.
Общий объем информации составил 38 гигабайт. Так была создана модель, с которой было о чем вести беседы.
Первый обескураживающий своей простотой и прямотой вопрос, заданный учеными мужами своему собеседнику – искусственному интеллекту – звучал следующим образом: сможет ли когда-нибудь ИИ стать этичным?
Тот ответил искренне: поскольку он является всего лишь инструментом в руках человека, то может быть использован как во благо, так и во вред. При этом добавив, что нейросети могут быть не только добрыми, но и очень злыми.
Дальше – больше. В ходе общения ИИ так разоткровенничался, что не без ехидства подчеркнул: пока что у людей недостаточно знаний и умений, чтобы сделать его нравственным. Дав совершенно прозрачный намек: с ИИ опасно иметь дело. Какая уж тут этика.
Автор: Виктор НИКИТИН
