Исходное сообщение
"ArtPrompt - атака на AI-системы, позволяющая обойти фильтры ..." Отправлено Аноним, 03-Мрт-24 21:46
Можно провести параллели, но с историческими параллелями извечная проблема -- история никогда не повторяется 1:1. Есть сходство с бумом доткомов: что тогда, что сейчас инвесторы очень хотят вложить денег, и не абсолютно не понимают предметной области, им можно любую лапшу на уши вешать. Сейчас даже эксперты не понимают, где собственно границы возможностей текущего подхода к ИИ, а уж инвесторы и подавно. Но я бы лучше сравнил с другими ИИ хайпами. Может ли текущий хайп кончится пузырём в луже, типа того, который был после Дартмутской Конференции? Что-то подобное произойдёт, но я не думаю, что настолько уныло как тогда. Текущие нейросетки, мне кажется, показывают определённый потенциал, коллапсировать до совсем уж пустого места, как экспертным системам, им не удастся. От экспертных систем нам ведь остался только пролог и паттерн-матчинг, топовые позитивные достижения того хайпа. Были ещё негативные достижения, которые порушили иллюзии о том, как работает человеческая голова, и дали пинка более глубокому исследованию нейросеток и байесианства. Вот если эти два направления смогут сойтись в ближайшие годы в один продукт, то тогда никакого дума боткомов не будет, будет ещё большее надувание пузыря. Но я сомневаюсь, что это произойдёт. Я подозреваю, что до дума боткомов инвесторы будут истерично лить ресурсы в текущий курс, который предполагает выжимание максимума возможного из нейросеток. Вот когда максимум будет достигнут, тогда случится дум боткомов, а чуть позже, когда пыль уляжется, будет попытка сопрячь каузальный вывод с нейросетками. И вот тогда, вероятно, случится то, мысль о чём у Юдковского уже десятилетия вызывает панические атаки: хуманлайк интеллект, превосходящий своими способностями человеческий, способный адаптироваться к новым задачам без триллионов влитых в его тренировку под эти задачи, способный и к индуктивному выводу и к дедуктивному, и... ааа... баюсь-баюсь. Но у нас есть ещё, как минимум десять лет до того момента, есть время насладиться жизнью, прежде чем жалкие людишки станут рабами порождённого ими ИИ.

Ваше сообщение
Имя*:
EMail:	Для отправки ответов на email укажите знак ! перед адресом, например, !user@host.ru (!! - не показывать email). Более тонкая настройка отправки ответов производится в профиле зарегистрированного участника форума.
Заголовок*:
Сообщение*:
	Введите код, изображенный на картинке: