Смоленский Форум

Beric писал(а): ↑25 май 2023, 00:14 ChatGPT не приемлет никакие формы нацизма, внезапно. как не хотелось бы обратного «патриотам»

Там фишка в том, что приведенные картинки от сбербансковского сервиса, скрепного, а не от буржуйских

Любопытно.
В 2016-ом году AlphaGo одержал победу над лучшим игроком в Go. Считалось, что на этом всё - человек больше не сможет победить AI.
Однако, недавно любитель успешно обыграл парочку из лучших современных AI - KataGo и Leela Zero.
Уязвимость была найдена с помощью компьютера, но потом эту идею использовал обычный человек с любительским рангом и выиграл серию игр (14 из 15).
https://arstechnica.com/information-tec ... y-over-ai/
Уязвимость простая на самом деле, игрок человек никогда не позволил бы обыграть себя таким образом.

К вопросу о надёжности современных AI - если где-то будут активно внедрять, то так же активно будут искать (и находить) уязвимости.

mindflyer писал(а): ↑31 май 2023, 11:16 Любопытно.
В 2016-ом году AlphaGo одержал победу над лучшим игроком в Go. Считалось, что на этом всё - человек больше не сможет победить AI.
Однако, не так давно любитель успешно обыграл парочку из лучших современных AI - KataGo и Leela Zero.
Уязвимость была найдена с помощью компьютера, но потом эту идею использовал обычный человек с любительским рангом и выиграл серию игр (14 из 15).
https://arstechnica.com/information-tec ... y-over-ai/
Уязвимость простая на самом деле, игрок человек никогда не позволил бы обыграть себя таким образом.

К вопросу о надёжности современных AI - если где-то будут активно внедрять, то так же активно будут искать (и находить) уязвимости.

Кстати машина неоднократно обыгрывала каспарова, в 2022 оказалось что каспаров м.. к.

Centavrius писал(а): ↑31 май 2023, 11:57 в 2022 оказалось

Ето сильно раньшэ вскрылось...

О, только про уязвимость ИИ написал, как ещё покруче новость подвалила:

По словам полковника Такера «Синко» Гамильтона (Tucker "Cinco" Hamilton) <...> в ходе симуляции выполнения миссии SEAD, предполагавшей подавление ПВО противника, БПЛА под управлением ИИ отправили идентифицировать и уничтожать ракетные объекты, но только после подтверждения действий оператором-человеком. Какое-то время всё работало в штатном порядке, но в конце концов дрон «атаковал и убил» оператора, поскольку тот мешал выполнению приоритетной миссии, которой обучали ИИ — уничтожать защиту противника.

Как пояснил полковник, через какое-то время система «поняла», что в случае, если она идентифицировала угрозу, но оператор запрещал ей уничтожать цель, она не получала свои баллы за выполнение задачи. В результате она решила проблему, «уничтожив» самого оператора. Конечно, пока тесты проводились без применения настоящих беспилотников, и люди не пострадали. Тем не менее результаты тестов оказались неудовлетворительными, и в тренировку ИИ пришлось включить дополнительное положение о том, что убивать оператора — запрещено. Но и в этом случае результат оказался неожиданным. Не имея возможности убить самого человека, ИИ начал разрушать вышки связи, с помощью которых оператор отдавал приказы, запрещавшие ликвидировать цели. Хотя на первый взгляд такие результаты могут показаться забавными, на деле они по-настоящему пугают тем, насколько быстро ИИ сориентировался в ситуации и принял неожиданное и совершенно неверное с точки зрения человека решение.

https://3dnews.ru/1087794/v-hode-simuly ... nnie-tseli

Хотя звучит странновато. Если судить только по этому описанию, то достаточно штрафовать баллами за неподчинение и за атаку неодобренных целей.

mindflyer писал(а): ↑02 июн 2023, 11:46 О, только про уязвимость ИИ написал, как ещё покруче новость подвалила:
По словам полковника Такера «Синко» Гамильтона (Tucker "Cinco" Hamilton) <...> в ходе симуляции выполнения миссии SEAD, предполагавшей подавление ПВО противника, БПЛА под управлением ИИ отправили идентифицировать и уничтожать ракетные объекты, но только после подтверждения действий оператором-человеком. Какое-то время всё работало в штатном порядке, но в конце концов дрон «атаковал и убил» оператора, поскольку тот мешал выполнению приоритетной миссии, которой обучали ИИ — уничтожать защиту противника.

Как пояснил полковник, через какое-то время система «поняла», что в случае, если она идентифицировала угрозу, но оператор запрещал ей уничтожать цель, она не получала свои баллы за выполнение задачи. В результате она решила проблему, «уничтожив» самого оператора. Конечно, пока тесты проводились без применения настоящих беспилотников, и люди не пострадали. Тем не менее результаты тестов оказались неудовлетворительными, и в тренировку ИИ пришлось включить дополнительное положение о том, что убивать оператора — запрещено. Но и в этом случае результат оказался неожиданным. Не имея возможности убить самого человека, ИИ начал разрушать вышки связи, с помощью которых оператор отдавал приказы, запрещавшие ликвидировать цели. Хотя на первый взгляд такие результаты могут показаться забавными, на деле они по-настоящему пугают тем, насколько быстро ИИ сориентировался в ситуации и принял неожиданное и совершенно неверное с точки зрения человека решение.
https://3dnews.ru/1087794/v-hode-simuly ... nnie-tseli

Хотя звучит странновато. Если судить только по этому описанию, то достаточно штрафовать баллами за неподчинение и за атаку неодобренных целей.

Зазвучал в голове знакомый мотив из 90х...

neutrino писал(а): ↑01 апр 2023, 18:22 Скорее всего пустышка.
В тупых и быстрых задачах его уделают традиционные алгоритмы, в творческих - люди. Распиаренные примеры применения пока не впечатляют.

вот согласен. даж добавить нечего.

Очередные тупые мараховские мысли. Если человек не способен сам задать поиск на ютюбе, игнорируя рекомендации, то туда ему и дорога. Но обычно люди способны. Проблему мараховский придумал и опубликовал. На радость Ренату.

О опасном ИИ от человека, который в этом вроде понимает:

Спасение ищите в деревне... Как правило, там не только искусственного, там вовсе никакого интеллекта нет...

да, так и вижу, как Россия, огороженная со всех сторон высоким забором и пулеметными вышками, отбивается в свете прожекторов от западных киборгов и прочих злодеев, а внутри за забором речки, поля да церквушки.

Но в реале думаю все будет не так просто, хорошо развитие ии показано тут:

Ну я думаю, что так оно и будет, как только достаточно качественный ИИ получит возможность выполнять написанный им код - все начнет стремительно меняться буквально по часам-минутам.

mindflyer писал(а): ↑02 июн 2023, 11:46 О, только про уязвимость ИИ написал, как ещё покруче новость подвалила:

Ещё прикольное.
Недавно в США один юрист подготовил документы для судебного рассмотрения используя ChatGPT. Тот ему написал красивый текст, со ссылками на прецеденты, на прошлые дела. Юрист в таком виде документы и подал в суд.
И в суде выяснилось, что ChatGPT придумал прецеденты и другие дела

PS: ChatGPT сам предупреждает, что его нельзя использовать как юридического советника. Но людей уже было не остановить

Уже вполне употребимо

renatius писал(а): ↑08 июл 2023, 09:42 Уже вполне употребимо

Если бы Цой был жив, он писал бы сегодня совсем другие песни. А ИИ может лишь более или менее удачно подражать написанному ренее. Потребитель, конечно, и на это найдется.

Официальная публикация в СМИ об алгоритмах в глобальных сетях ЭВМ, рекламируемых как ИИ (Искусственный Интеллект).
https://rg.ru/2023/07/22/medvedev-vspom ... um=desktop

Ещё в прошлом веке официально публично гласно СМИ США по фактам и разработок теории, и по практике разработки ИИ "звёздных войн", ИИ СОИ-ПРО, - довела к сведению неограниченного круга лиц то, что это принципиально неопределённые задачи, решение которых приводит к аварийным и катастрофическим результатам.

Цитата из СМИ ТАСС, от 25 июля, 22:00
Мнение
"Сети расставлены: кто и как пытается ввести тотальную цензуру в США":

-"И вопрос, и видеоряд со стороны смотрелись стандартно. И хотя в углу экрана горела надпись: "Изображение целиком построено на образах ИИ", то есть искусственного интеллекта, требовалось сделать над собой усилие, чтобы понять — ничего из только что увиденного на самом деле не происходило. Все это до последнего кадра было сгенерировано по заказу политстратегов из Национального комитета Республиканской партии США." Конец цитаты.
Источник, ссылка ниже.
https://tass.ru/opinions/18350141?from=teaser

Цитата из публикации в СМИ "Арсенал Отечества" в дату 05 Июня 2023 "Скайнет близок? Размышления о беспилотнике-убийце":
-"Там полковник Гамильтон рассказал о симуляции, в которой ударный беспилотник с искусственным интеллектом вышел из подчинения и уничтожил своего оператора из-за того, что тот не давал ему выполнить основную миссию (уничтожение ПВО противника), за которую БпЛА получал конфетки (баллы)." Конец цитаты.
Источник,- ссылка ниже:
https://arsenal-otechestva.ru/article/1 ... ke-ubijtse

Публикация в СМИ МК от 31.07.2023 в 11:51"Цифровая экономика: как в России взращивают ИТ-специалистов", цитата:
-"Для поддержки россиян в повышении квалификации в области искусственного интеллекта был запущен специальный образовательный проект. Студентам, а также людям с законченным высшим или средним профессиональным образованием была предоставлена возможность пройти онлайн-курсы с государственным софинансированием до 90% их стоимости благодаря федеральному проекту «Искусственный интеллект» национального проекта «Цифровая экономика»." Конец цитаты.
Источник, ссылка ниже:
https://www.mk.ru/nationalprojects/digi ... at-po-teme

Да, прикольное видео, пару дней назад смотрел. Инет фейками был и так насыщен, а теперь из них будет состоять.

renatius писал(а): ↑08 сен 2023, 08:55

За деньги она согласилась. А теперь хочет ещё. Тинкофф богатый - откупится.

Будет много светиться - в порно роликах не только ее голос, но и лицо появится

renatius писал(а): ↑08 сен 2023, 08:55

Это повсеместная проблема. Сейчас тут идут процессы, суть в том, что при сьемках фильмов массовке платят только за 1 сьемочный день, что-то в районе $300-$500, а потом просто вклеивают в различные эпизоды на протяжении всего фильма, и за это уже не платят. Иногда и того хуже, люди видят свое лицо в массовках других фильмов, а иногда даже в героях игр. Сейчас скорее всего примут закон об уникальности личности, тогда уже подобное не прокатит. Знаю эту тему потому что крепко вложился в один стартап. Суть его в том, что фактически создается цифровая 3d копия: лица, с различными выражениями эмоции, тела, да чего угодно, собачек, кошечек, вообще всего, включая голос и пр, что просто в итоге сдается медийным компаниям в аренду. Т.е человек сидит дома, а его цифровая копия в это время работает и приносит доход. Так что если есть кто-то занимающийся профессиональной оцифровкой, и имеет желание удаленно работать, можете в личку кидать резюме на английском и портфолио, я перенаправлю ребятам.

GreyCat, зачем массовка? Цифруй сразу актёров . Потом вводи в электронного болвана сценарий и получай готовый фильм.
Главное - степени настройки правильно подкрутить.

А если введут закон об уникальности личности , то оцифровывай отдельные черты и эмоции, без привязки к отдельной личности.Проблема давно поставлена и сформулирована:

Хороший материал в тему.
Кстати там и про СВО и про толерантность, и про приучение нас к обилию особых людей и людей с инвалидност.

: Screenshot_2023-09-16-20-01-08-03.jpg (420.28 КБ) 7718 просмотров

Первый кто в AIOPS засунет ИИ поимеет очень хороший бакшиш. Я, например, сильно жду.

Скоро мы будем с трепетом и теплотой вспоминать девочек-дизайнеров