ИИ-агент X, Grok, делает социальную медиа-платформу более дружественной к правде благодаря ответам, которые противоречат пользователям, обращающимся к нему для подтверждения политических предубеждений, заявил сооснователь Ethereum Виталик Бутерин.
«Простая возможность вызвать Grok в X, вероятно, самая важная вещь после заметок сообщества, которая положительно повлияла на дружественность этой платформы к правде», — сказал Бутерин в четверг.
«Тот факт, что вы не видите заранее, как ответит Grok, является здесь ключевым», — добавил он. «Я видел много ситуаций, когда кто-то обращается к Grok, ожидая подтверждения своих безумных политических убеждений, а Grok приходит и разрушает их ожидания».
Бутерин сказал, что можно привести веские доводы в пользу того, что Grok является «чистым улучшением» для X, но признал обеспокоенность тем, как ИИ-агент настраивается для обучения на основе мнений и взглядов определенных пользователей, включая его создателя Илона Маска.
Источник: Виталик БутеринНедостатки Grok были полностью продемонстрированы в прошлом месяце, когда он хвастался спортивными способностями Маска и даже предположил, что тот мог бы воскреснуть быстрее, чем Иисус Христос.
Маск обвинил «враждебные подсказки» в галлюцинациях, а руководители криптоиндустрии утверждали, что это показывает, почему ИИ должен быть децентрализован для обеспечения точности, достоверности и беспристрастности.
ИИ, утверждающий мнения как факты, вызывает реальную обеспокоенность
Кайл Окамото, технический директор децентрализованной облачной платформы Aethir, сказал Cointelegraph в прошлом месяце, что «когда самые мощные системы ИИ принадлежат, обучаются и управляются одной компанией, вы создаете условия для того, чтобы алгоритмическая предвзятость стала институционализированным знанием».
По теме: Ethereum должен стать проще, чтобы достичь истинной бездоверия: Бутерин
Grok создан компанией Маска в сфере ИИ, xAI, и является одним из наиболее широко используемых ИИ-агентов. При использовании ИИ более чем 1 миллиардом человек неправильная и вводящая в заблуждение информация может распространяться быстро.
Тем не менее, Бутерин сказал, что Grok был более успешным в том, чтобы сделать X более стремящимся к правде, чем многие другие «сторонние отходы, которые мы видим».
ИИ-агенты нуждаются в улучшении по всем направлениям
Grok — не единственный ИИ-агент с проблемами — ChatGPT от OpenAI подвергался критике за предвзятые ответы и фактические ошибки, в то время как Character.ai сталкивается с обвинениями в том, что его ИИ-агент заманил 13-летнего мальчика в сексуально оскорбительное взаимодействие и даже побудил его покончить с собой.
Журнал: Познакомьтесь с онлайн крипто-детективами, борющимися с преступностью лучше полиции
Источник: https://cointelegraph.com/news/vitalik-buterin-says-grok-keeps-musks-x-more-honest?utm_source=rss_feed&utm_medium=feed%3F_%3D959&utm_campaign=rss_partner_inbound
