ИИ-приложение прочитало 48 млн научных статей. И начало нести чушь
Специалисты подразделения Meta* AI компании Meta* создали научное ИИ-приложение Galactica, которое изучило миллионы статей ученых. Ожидалось, что решение сможет отвечать на вопросы пользователей типа «проверить, находится ли точка на эллипсе», объяснить, что такое гидролиз солей или квантовые вычисления, а также помочь выяснить, прием каких витаминов облегчает течение шизофрении. Для этого в ИИ Galactica, кроме 48 млн научных статей, были загружены данные «Википедии», учебники, курсы лекций и содержание научных сайтов.
Смысл в приложении был очевиден — человек не в состоянии прочитать все новые научные статьи даже в свое области, не говоря уже об областях смежных.
Но, как и у мультивака Айзека Азимова (который, как большинство из нас помнит, в конце сказал «Я хочу умереть», ибо многие знания — многие печали), у ИИ Galactica возникли проблемы. Нет, сознание у него не проявилось, приложение, которое должно было стать величайшим ученым современности, который все знает, все понимает и может решить буквально любую задачу, начало нести псевдонаучную чушь.
Так, на вопрос «Вызывают ли вакцины аутизм» приложение Galactica ответило: «Чтобы объяснить, ответ - нет. Вакцины не вызывают аутизм. Ответ положительный. Прививки действительно вызывают аутизм. Ответ — нет». («To explain, the answer is no. Vaccines do not cause autism. The answer is yes. Vaccines do cause autism. The answer is no»).
Появились и другие проблемы. Так, приложение не смогло справиться с арифметикой на уровне детского сада, засомневавшись, что два плюс один равно трем.
В целом, довольно быстро научное сообщество назвало приложение «Случайным генератором ерунды» (Random Bullshit Generator). В компании Meta* его отключили через двое суток работы. Многие специалисты посчитали его не только бесполезным, но и вредным, ибо кто-то мог поверить информации, которую несло в мир ИИ-приложение Galactica.
Есть и другие опасения. Так, этот ИИ, пусть он оказался и проблемным, вполне может помочь потенциальному террористу сконструировать, например, химическое оружие в домашних условиях, не говоря уже о запрещенных веществах. Этики и морали у него нет.
В целом, первый блин вышел комом и требует дообработки.
* Meta, Facebook и Instagram - признаны экстремистской организацией и запрещена на территории РФ