В этом выпуске мы поговорили о скрытых угрозах, связанных с обучением искусственного интеллекта. Особое внимание уделили атакам с использованием «отравленных данных» - умышленно искажённой информации, внедрённой для ухудшения качества работы моделей. Это серьёзная проблема, с которой уже сталкиваются крупные компании, вроде Anthropic. Обсудили, как и зачем злоумышленники создают целые фермы фальшивого контента, влияют на SEO и пытаются дезориентировать алгоритмы. Речь пошла не только о конкуренции между компаниями, но и о возможном участии государств, спецслужб и даже самих пользователей. Затронули примеры из истории и новые технологические вызовы. Также поговорили о методах защиты: от подхода human-in-the-loop до возможной помощи блокчейна и NFT. Задумались о кризисе доверия к цифровому контенту, будущем авторского права и роли людей в мире, где ИИ может генерировать любую информацию. Не обошли и философские аспекты вырождения моделей, замкнутых на старых данных. • Кейс Microsoft Tay AI (2016) (
• Информация о GPT и религиозных предвзятостях (
• Grok by xAI (
• Internet Archive (
• Статья "BibleGate" и случаи предвзятости ИИ (
• Информация про концепцию Human-in-the-loop (
📺 Наш канал на Youtube ( / @techlifepodcast ) наш подкаст в директории подкастов Эппл (
, в Оверкасте (
, Гугл подкастах (
https://www.youtube.com/@techlifepodc...) , Спотифае (
и на Яндекс Музыке (
