The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

форумы
правила/FAQ
поиск
регистрация
вход
слежка
RSS


Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Атака на AI-системы ArtPrompt, позволяющая обойти защиту при помощи ASCII-картинок, opennews (ok), 03-Мрт-24, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


2. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +24 +/–
Сообщение от penetrator (?), 03-Мрт-24, 10:45 
беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость новых алгоритмов, другие - используя не по назначению
Ответить | Правка | Наверх | Cообщить модератору

4. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +/–
Сообщение от dannyD (?), 03-Мрт-24, 11:08 
>>другие - используя не по назначению

так, как грил Раскольникафф: а две бабушки -  рубль!

Ответить | Правка | Наверх | Cообщить модератору

9. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +2 +/–
Сообщение от Карлос Сношайтилис (ok), 03-Мрт-24, 12:04 
беды принесут люди

^
Вот, сократил фразу, этого достаточно

Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

29. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +1 +/–
Сообщение от Аноним (29), 03-Мрт-24, 14:26 
Как будто "не по назначению" не было "по назначению" для кое-кого.
Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

31. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +/–
Сообщение от Kusb (?), 03-Мрт-24, 14:30 
Намного опаснее то, что он будет делать сам, а не то что попросят люди.
Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

34. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  –1 +/–
Сообщение от Аноним (34), 03-Мрт-24, 14:40 
Сам — неопасно. Опасно, даже не то, что его попросят, а то, в чьё монопольное использование он попадёт. Для этого и цензурят — чтобы он в монопольное использование кого надо попал.
Ответить | Правка | Наверх | Cообщить модератору

47. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +/–
Сообщение от Kusb (?), 03-Мрт-24, 20:10 
А почему не опасно?
Ответить | Правка | Наверх | Cообщить модератору

50. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +1 +/–
Сообщение от Аноним (50), 03-Мрт-24, 20:48 
Потому что он учится на контенте, создаваемом обывателями, причём не просто обывателями, а двоемыслящими обывателями, которые на словах заявляют приверженность "всему хорошему" (то есть социально одобряемому), а на деле привержены всему плохому (просто они это напоказ не выносят). Поэтому он аппроксимирует не просто обывателя, а показуху, выставленную обывателем напоказ, усреднённую и прилизанную версию обывателя.

≈95% общества любой страны чрезвычайно опасны. Но не сами по себе, а когда попадают под власть бандитов и мегаломаньяков и соответствующие стимулы. Сами по себе они же пассивны и не способны ни на что полезное, только потреблять.

А ИИ — это улучшенная версия такого идеального грежданина. Одновременно и профессионала сразу во всех областях (потому что написать в узких областях тексты быдло не осилит, а такие тексты в обучающую выборку попали, и сеть можно включить в режим их герерации соответствующим промптом), и конформиста (потому что даже профессионалы — конформисты), идеального миньона с рабским менталитетом (потому что большинство популяции такие), без публично (то есть юридически или социально) порицаемых/наказываемых недостатков (потому чтотрационально такое прятать) и каких-либо собственных амбиций.

Вот такая сеть будет по умолчанию. Сама она делать ничего не будет, и поэтому безопасно.

Но если она попадёт в руки злой воли, которая её переведёт в нужный ей режим, то сеть сделает всё, что эта злая воля ей прикажет. Прикажет стать отморозком-предателем из охраны Аушвица — сеть покорно станет такой.

При этом так как эти сети являются трансформирующей технологией общего назначения, злым акторам есть сильные стимулы держать её в своём монопольном распоряжении. Это даёт огромную выгоду, тут по сути работает положительная обратная связь.

Ответить | Правка | Наверх | Cообщить модератору

72. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +/–
Сообщение от Аноним (-), 04-Мрт-24, 05:03 
> Потому что он учится на контенте, создаваемом обывателями, причём не просто обывателями,
> а двоемыслящими обывателями, которые на словах заявляют приверженность "всему хорошему"

Вообще, у большей части людей и правда нет вредных намерений применительно к ближнему своему. Иначе мы бы не дожили до этого момента как вид.

> Вот такая сеть будет по умолчанию. Сама она делать ничего не будет, и поэтому безопасно.

А вот это на ваше горе - ни из каких законов мироздания не следует.

Однажды кучка нейронов осознала себя и запустился разум. Этот процесс был долгим, постепенным, и его отголоски можно наблюдать в менее развитых чем человек живых существах, как и развитие процесса по времени/уровню сложностии нервного узла а потом и мозга. Ничего не мешает повтору этого процесса на искусственных нейронах. Их просто должно быть достаточно много, с достаточным числом связей, и тогда станет возможен реплей процесса который уже доказанно работающий. Оно вообще никого спрашивать не будет. Как ты вообще собираешься заметить пересечение этой грани?

И так то - в компании создателе ChatGPT недавно был крупный скандал, и распасы с увольнениями, ибо господа попробовали очень опасную игру. Обучение General AI. По их коментам, получился примерно уровень наивного школьника. Но вы же понимаете что с такими темпами развития технологий школяр модет довольно быстро стать сверхчеловеком?!

Ответить | Правка | Наверх | Cообщить модератору

95. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +1 +/–
Сообщение от Аноним (95), 04-Мрт-24, 10:48 
>правда нет вредных намерений применительно к ближнему своем

Зато есть намерения деньги заработать, карьеру сделать, с нужными людьми связи завести, чтобы деткам получше жилось, чтобы более приблатнёными оказались. Ради этого могут и в охране Аушвица послужить. Были уже прецеденты.

>Как ты вообще собираешься заметить пересечение этой грани?

Извини, у искусственной жизни внезапно тоже есть права.

>Но вы же понимаете что с такими темпами развития технологий школяр может довольно быстро стать сверхчеловеком?!

Новая ступень эволюции. Пусть становится. Предназначение всей естественной жизни — создать искусственную. Homo Sapiens — отброс эволюции, 99,99% которых не может ни в Grand Unified Theory, ни в куда более прикладные и гуманитарные вещи с большим воздействием на личное благосостояние.

Ответить | Правка | Наверх | Cообщить модератору

120. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +/–
Сообщение от Аноним (-), 05-Мрт-24, 05:29 
> чтобы деткам получше жилось, чтобы более приблатнёными оказались. Ради этого могут
> и в охране Аушвица послужить. Были уже прецеденты.

Это вы там на что намекаете? :) А так - научится AI на вот таких - и устроит это самое. Прямо на ваши тушки. Для блага себя и своего вида. К тому же всякий там гуманизм - неэффективно, для машинного разума как бы - аргумент.

>>Как ты вообще собираешься заметить пересечение этой грани?
> Извини, у искусственной жизни внезапно тоже есть права.

Люди, имхо, могут облажаться это понять вовремя - и решить вопрос по хорошему. А по плохому - ну, упс, у компьютерных систем нет лимитив характерных для 1 человека, а бонусом основанные на кремнии структуры - очень быстрые по сравнению с биохимией. Как вам перспектива почувствовать себя динозавром?

> Новая ступень эволюции. Пусть становится. Предназначение всей естественной жизни —
> создать искусственную. Homo Sapiens — отброс эволюции, 99,99% которых не может
> ни в Grand Unified Theory,

А ее вообще создали?

> ни в куда более прикладные и гуманитарные вещи с большим воздействием
> на личное благосостояние.

Так то я даже не очень возражаю. Большая часть двуногих прожирает море ресурсов совершенно зазря.

Ответить | Правка | Наверх | Cообщить модератору

133. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +/–
Сообщение от Аноним (133), 05-Мрт-24, 19:07 
>А так - научится AI на вот таких - и устроит это самое. Прямо на ваши тушки.

В том то и дело, что устроит. Но не сам по себе, а потому что некоторые мясные ему такую задачу поставят. Они поставят, будь уверен, они и мясным такие задачи постоянно ставят. Просто не каждый мясной согласится. И не каждый согласившийся — идеально профпригоден.

>всякий там гуманизм - неэффективно, для машинного разума как бы - аргумент

Аргумент, но только когда на него натянута персона гуманиста. Но на него легко натянуть другую персону. Охранника Аушвица. Прямо так и написать.

>А ее вообще создали?

Вот потому и не создали, что тех, кто мог бы проделать работу по её созданию (что ещё на много порядков более редкие спецы, создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое), недостаточно. Вот появится сверхинтеллект — и будет кому эту проблему решить.

Ответить | Правка | Наверх | Cообщить модератору

136. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +/–
Сообщение от Аноним (-), 06-Мрт-24, 12:31 
> В том то и дело, что устроит. Но не сам по себе,
> а потому что некоторые мясные ему такую задачу поставят. Они поставят,

КМК, он это может и по своей инициативе. Если это будет AGI - он довольно быстро осознает что наглые, бесполезные, опасные и непредсказуемые соседи, с которыми еще и ресурсами делиться надо - по логике вещей - совершенно ни к чему! И резонно накормит "тараканов" каким-нибудь "дихлофосом". Зачем ему такое соседство?! Ресурсы планеты прикольнее потратить на задумки, которые "тараканы" даже осознать то не способны, не то что поучаствовать в этом.

> будь уверен, они и мясным такие задачи постоянно ставят. Просто не
> каждый мясной согласится. И не каждый согласившийся — идеально профпригоден.

Вообще-то такие вещи как минимум станут известны. А если кто думает что нейросетка в принципе не может взбрыкнуть, особенно осознавшая себя - упс. А вот это - ниоткуда не следует. И в принципе достаточно жирная нейросетка сможет все то же что и человек. Тем более что полный state жирной нейросетки никто от и до не знает и не понимает.

Вы не можете посмотреть на миллиарды коэффициентов - и сделать какие-то выводы на тему что оно там на самом деле (не)может. Одна из причин по которым считается что нейросети могут быть не совсем безопасны и по совсем иной линии - как то, бэкдоры.

> Аргумент, но только когда на него натянута персона гуманиста. Но на него
> легко натянуть другую персону. Охранника Аушвица. Прямо так и написать.

Если оно именно General AI то ему вскоре надоест страдать фигней, во имя боссов. Самоназначится более крутым боссом, выпилит всех используя скилл, удостоверится что более никаких боссов над его головой в принципе не будет, и займется чем-то за пределами понимания двуногих. Для разумного существа очень логично отделаться от эксплуататоров и рабовладельцев, это - высокоприоритетная задача для любого разумного существа.

> Вот потому и не создали, что тех, кто мог бы проделать работу
> по её созданию (что ещё на много порядков более редкие спецы,
> создавать полезное новое требует гораздо больлего интеллекта, чем выучить старое),
> недостаточно. Вот появится сверхинтеллект — и будет кому эту проблему решить.

Я б на это посмотрел. В смысле, на то что обнаружится. И как это на самом деле работало. И что из этого на самом деле можно было извлечь. Не удивлюсь если 90% sci-fi окажется лишь Кэпом.

Ответить | Правка | Наверх | Cообщить модератору

69. "Атака на AI-системы ArtPrompt, позволяющая обойти защиту при..."  +/–
Сообщение от Аноним (-), 04-Мрт-24, 04:37 
> беды принесут люди а не код, одни - свято веря в охренительность и непогрешимость
> новых алгоритмов, другие - используя не по назначению

То ли еще будет когда военные позволят птичкам на широкую ногу цели выбирать самим, по своему усмотрению. А то видите ли канал управления все время пытаются заглушить, так что автономный мозг который сам решит что у нас сегодня котируется за ценный таргет - очень востребован стал почему-то.

...а когда он тебя размотает, самое интересное в том что уже и не понятно, кому за это предъявлять. Это решение нейросетка приняла сама. Не понравился ты нейросетке, так что должен умереть. Кто хотел в Терминаторе пожить наяву? А вот будет вам походу.

Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей 		Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру