Нейросети, ИИ и всё, что с ними связано

[Ogr]

так он чёт игнорит проблему

Мне бесплатная гемени тоже не хочет редактировать, пишет: Я не могу помочь вам с этим, я просто языковая модель.

[Vlad666]

Хорошая новость для россиян https://3dnews.ru/1136606/sberbank-potratit-500-milliardov-rubley-na-tretiy-superkompyuter.

Интересно, какие ускорители они будут устанавливать в новый суперкомпьютер, учитывая то, что топовые ускорители под санкциями?

Например, список ускорителей от Nvidia, запрещенных для продажи России:

Серия Blackwell: B100, B200, GB200.
Серия Hopper: H100, H200, а также упрощенная версия H800.
Серия Ampere: A100 и его адаптированная версия A800.

Можно, наверное, через параллельный импорт завозить некоторые из этих ускорителей, но это будет дороже и вряд ли можно будет таким способом получить достаточное количество. А серия ИИ-ускорителей Rubin вообще фантастика для наших компаний.

Добавлено позже:
Еще один "Ой", но на этот раз от Сбера https://3dnews.ru/1136709/sberbank-sokratil-20-sotrudnikov-izza-ii-kotoriy-pomenyaet-vsyo-i-vezde.

[ShadowFlash]

Серия Ampere: A100

До недавних времен хоть ушами ешь. Собственно в ящике стола четыре валяются. Сейчас бывает и 5090 в нужных количествах поискать надо, и не из-за санкций, а из-за того, что ритейлу и даже мелко и среднеоптовым покупателями не достаются. Если бы не это - тоже мне проблема, купить в Азии через специально созданную под это фирму. И открою тебе небольшой секрет - многие фирмы очень интересно ушли - так что сами организовывают параллельный импорт. Корейские прежде всего, но и американские тоже.  В принципе их вроде бы несложно взять за пятую точку, но этого не происходит. Почему - да потому, что люди на самом верху в курсе  Есть публичная политика и тихая экономика.

Это вам не ЕС с аттракционом выстрели себе в ногу из 200мм орудия.

P.S. В советские времена через прежде всего Финляндию и Францию, а так же Японию, некоторые азиатские страны, в том числе и тогда британский Гонконг и не такое привозили. Мейнфреймы, которые изучались, собирались обратно и работали где-нибудь, а через три года их копия шла в серию. Или вообще 6 новейших, на тот момент самых совершенных станков с ЧПУ, за несколько дохрениллиардов долларов, производить которые дома просто не выгодно - их ровно столько штук надо было на всю страну.  Современные аналоги тоже по три-пять штук на крупную страну при общем количестве выпущенных 10-30. Такие штуки это вам не конвеерное производство, и еще и везти непросто, это вам не пять контейнеров видеокарт.

[Vlad666]

Суперкомпьютеры Яндекса:

Червоненкис - 1592 ускорителя A100 80G;
Галушкин - 1088 ускорителей A100 80G;
Лапунов - 1096 ускорителей A100 40G.

Да уж. На таких крошечных вычислительных мощностях в сфере ИИ далеко не уедешь. Мало того, что количество ускорителей совсем маленькое, так они еще и используют устаревшие модели этих ускорителей аж с 2020 года. С тех пор уже появились новые, в разы более мощные архитектуры Hopper и Blackwell. А скоро начнется поставка ускорителей с архитектурой Vera Rubin, которые превосходят Blackwell в 3 - 5 раза в зависимости от задачи.

Добавлено позже:
Для сравнения: ИИ-кластер Colossus 2 Илона Маска на данный момент имеет 550 000 ускорителей Hopper и Blackwell. На нем сейчас обучают Grok 5. У других меньше, но все равно количество идет на сотни тысяч. А на подходе другие гиганты с сотнями тысяч и миллионами ускорителей .

[ID]

Хм значит Chatgpt все таки не сумасшедший вокнутый левацкий AI , жирную феминистку не нарисовал (не открывайте фотку без adblocker)

[Vlad666]

Девка больше на сменившего пол мужика походит .

[ID]

Ну а че, спортивная девка. Он мне еще отказывался фотку делать  говоря что понятие красоты относительно и прочую политкорректную херню

[ShadowFlash]

А на подходе другие гиганты с сотнями тысяч и миллионами ускорителей

Нью-Васюки однако. Чтобы миллионы ускорителей выпустить надо еще пару заводов как минимум построить. А еще где-то деньги взять, а потом решить маленькую проблему с электропитанием. Сейчас в ситуации с нехваткой высокопроизводительных GPU и памяти и дикими ценами рычат дизайнеры, геймеры, ученые, инженеры и банки. А если из-за такого подскочат в 2-4 раза цены на электроэнергию, то будет им Redneck Rampage 4 Ну это если столько электроэнергии найдут. А вообще с учетом того, что 90% мощностей даже не для Big Brother используется, а для генерации кривого нейрослопа, то интересно как засунули язык в задницу все эколожцы. Они и с полнейшим трэшем в виде биткоина, где генерация цифирок жрет больше электроэнергии, чем потребление всех домохозяйств Евразии и двух Америк вместе с островами и  - там же его держат.


А далее будет прикол. В виде двух равновероятных вариантов - первый через 5-10 лет допишут алгоритмы так, что они не потребуют миллиарды джигаватт на то, чтобы нарисовать кривой мультик на 20 минут, и  выпустят реально специализированное железо, а не перепиленные жифорсы. И на каком-нибудь уже устаревшем 10нм техпроцессе со 100 ватт будет выхлоп больше, чем сейчас с 900 киловатт затраченной мощности. При этом это уже не будет блендер-ремиксер найденного в интернете и скормленного из энциклопедий, а система, результатам которой можно доверять примерно как работе бортового компьютера "Союза" при автоматической стыковке.

Второй вариант - большие кошельки или политиканы, которым Альтман и прочие дуют в уши, таки запустят теперешние кривоватые нейронки в mission сritical и те устроят технозвиздец на полконтинента из-за тупой шизофазии вызванной race condition в маленьком куске кода, как сейчас это часто бывает. После того у тех резко убавится восторг, они врубят стандартный режим "запрещать и не пущать", хотя до этого им спецы всю плешь *уже* продолбили об опасности излишнего доверия новой ненадежной технологии.

И резко ограничат применение нейросетей всякими голосовыми болталками, генерилками картинок и распознавалками мордашек.

Впрочем и без этого пока обещалки и хотелки расходятся с возможностями.

Добавлено позже:

красоты относительно и прочую политкорректную херню

Только оно при этом в 90% случаев идеально совпадает у большей части млекопитающих и птиц, даже не только людей.

[Vlad666]

ShadowFlash, это не обещалки, а уже возводимые объекты. Ты хотя бы посмотри какие города строят для нужд ИИ. Их мощность исчисляется несколькими гигаваттами.

Это один из примеров Stargate на миллионы ИИ-ускорителей.



И одна только компания Nvidia продает в год до 4 млн ИИ-ускорителей. А кроме Nvidia есть и AMD, Cerebras, Google и другие поставщики. Так же в США строятся заводы по производству чипов, что снизит нагрузку на уже существующие заводы для увеличения производства ИИ-ускорителей.

Все остальное написанное тобой, включая нехватку электроэнергии, такой же бред, как и ответы бесплатных чат-ботов. Ты эти сказки про нехватку электричества Илону Маску расскажи .

[ShadowFlash]

Я немного в курсе про заводы и сколько они будут строиться. А насчёт бреда это ты рассказываешь человеку, который прекрасно знает сколько потребляет кластер на 192к  процессоров и 84к  GPU?   

А еще могу тебе рассказать про то, как у LLM наступает момент, когда ты вместо 100к GPU и 16Pb оперативки ставишь 900к и 384Pb, а производительность и точность не увеличивается заметно на задачах, которые должна решать вся нейросеть. Все эти миллионы GPU во-первых идут куче клиентов, а во-вторых они прежде всего позволяют окучивать кучу хомячков. Примерно как обычный ЦОД  - у меня под столом стоит сервер, который в 10 раз мощнее, чем то, что обычно втыкают там в стойку. Но он работает на 20 клиентских устройств в одной квартире. А в ЦОД один сервер гоняет несколько VPS и их там десятки тысяч этих серверов. Так и тут.

И часть про то, что современное состояние примерно как ENIAC в 40ые, который 10 минут считал, два часа чинился, а машинку с его производительностью всего 24 года спустя уже заталкивали в настольный калькулятор ты тоже упустил?

А насчёт расхождений обещаний и их исполнения - у OpenAI уже с этим проблемы.

[Vlad666]

Ну расскажи нам про все, великий эксперт, у которого под столом есть сервер в 10 раз мощнее, чем то, что втыкают в стойку. А я пока почитаю эту новость с мнением не диванного эксперта https://3dnews.ru/1136842/glava-ii-v-microsoft-cherez-dva-goda-neyroseti-zamenyat-bolshinstvo-ofisnih-rabotnikov .

[ShadowFlash]

Это как раз уровень современных экспертов. Которые разбираясь в одном думают, что разбираются во всем. И очень любят сроки из пальца высасывать. Вспоминаю подобных предсказамусов, которые рассказывали 30 лет назад что через 10 лет все автомобили будут на мощнейших топливных элементах. И где? Гиперлуп как поживает? Нейросети что-то лажают в техподдержке с ответами на вопросы, которые не то, что инженер, а простая блондинка на телефоне за секунду решает. И естественно те, кто пытается впихнуть свой Copilot везде будет кормить сказками. Протирателей штанов и стульев, которые рассылают стандартные документы, особенно отписки они заменят, там и скрипт на питоне заменит. Но я посмотрел бы как они со сложными проблемами даже в документообороте разбираться будут. P.S. тут вон некоторые преподаватель и научились отличать сгенерированные нейросетями фрагменты работ, которые ушлые студенты пытались им впихнуть. Специфические обороты и ошибки. Подписка хоть за 250 баксов в месяц не спасает.

[Vlad666]

Не слыхал о таких предсказателях. Может кто и предсказывал что-то, только ИИ уже здесь и сейчас. И Гиперлуп прекрасно разрабатывается. И вообще, причем тут Гиперлуп? Нашел с чем сравнивать. А у тебя хоть была эта подписка за 250 баксов, что ты делаешь такие выводы ?

[ShadowFlash]

А у тебя хоть была эта подписка за 250 баксов, что ты делаешь такие выводы ?

Не у меня лично, но полный доступ, попользовал в хвост и в гриву. И неоднократно тут говорил - имею полный доступ к нейросети, которая гораздо лучше, того огрызка, который дают клиенту по подписке - никто же не думает, что за 200 баксов в месяц и тем более а год на него будут работать все ЦОДы на которых базируется нейросеть? Нет, это как VPS примерно, если бы как в старые времена задорого ты мог получить ресурсы всего мейнфрейма на час, то это было бы круто, но увы.
 
Работает на железке, которая занимает два больших четырехэтажных здания. Поэтому я прекрасно себе представляю себе возможности современных нейросетей, их сильные  стороны и крайне неприятные недостатки и то, что это ранний и очень неэффективный по соотношению затрат энергии к выхлопу вариант. Не более, чем через 30 лет, то, что сейчас делают серверные фермы с сотнями тысяч GPU будет делать портативное устройство, в худшем случае - одна серверная стойка с потреблением в 3-10 киловатт, которую можно будет хоть дома поставить, если будешь готов по 10 тысяч рублей в месяц за свет платить по нынешним ценам и 3-10 миллионов единовременно за оборудование.

При этом техпроцесс сильно тоньше современных не нужен будет, да хоть на 32нм клепай, только в этом случае придется много тепла отводить. Прогресс будет со стороны оптимизации алгоритмов и появления по-настоящему специализированных чипов. GPU и NPU современные, несмотря на заявленное назначение таки не совсем то.

Примерно такой же процесс наблюдается прямо по теме данного форума. С тем, как сначала осваивают игровое железо разработчики когда вначале мы видим игры, которые не лучше предыдущего поколения и еще тормозят, а под конец видим такие,  которые выжимают все из железа и даже больше с помощью всяких недокументированных возможностей и хаков, а потом как от единиц кадров в секунду, никакой совместимости и кучи багов до идеальной эмуляции на полную скорость с улучшением картинки в разы по сравнению с оригиналом это делают разработчики эмуляторов.

Разница между той ситуацией и ситуации с нейросетями такая, что в последнем случае алгоритмы намного сложнее и поэтому количество багов и никакая оптимизация проявляют себя во все поля.  И сами алгоритмы используют много случайных и псевдослучайных выборок. Отсюда и такие явления как бред в ответе на вопрос, который в поисковиках сразу находит движок, не использующий нейросети, выпадения в осадок при обработке данных, которые эта нейросеть и должна обрабатывать по задумке разработчиков, а то и выдача данных одного пользователя любому другому просто по хитро сформированному запросу.

[Vlad666]

Не у меня лично, но полный доступ, попользовал в хвост и в гриву. И неоднократно тут говорил - имею полный доступ к нейросети, которая гораздо лучше, того огрызка, который дают клиенту по подписке - никто же не думает, что за 200 баксов в месяц и тем более а год на него будут работать все ЦОДы на которых базируется нейросеть? Нет, это как VPS примерно, если бы как в старые времена задорого ты мог получить ресурсы всего мейнфрейма на час, то это было бы круто, но увы.

И что это за бесплатная чудо-неройсеть, которая гораздо лучше огрызка за 200 баксов ?

[ShadowFlash]

И что это за бесплатная чудо-неройсеть, которая гораздо лучше огрызка за 200 баксов ?

Она очень "бесплатная" - оборудование на дохренадцать мегабаксов и несколько лет обучения.

[Vlad666]

Google DeepMind запускает новый генератор музыки. Музыка пока генерируется продолжительностью в 30 секунд. Может генерировать музыку по картинке. Интеграция с YouTube.

Добавлено позже:

[ww]

Теперь по ходу все картинки в JPEG сохраняются 

[Vlad666]

Теперь по ходу все картинки в JPEG сохраняются 

Где именно?

[ww]

Где именно?

В банане. В гемини и в арене от бананы все в JPEG сохраняется почему то

[Vlad666]

В банане. В гемини и в арене от бананы все в JPEG сохраняется почему то

В API можно менять формат. Но это уже игрушка другого уровня и цены.

[ID]

Количество дебилов , которые кричат в комментах на всех сайтах на всех языках  "AI Baaad!!"  реально зашкаливает. и это реально только последние месяцев 10. На все - на музыку, на картинки, на видео. Как будто проплачено (хотя 90 процентов людей идиоты, так что возможно и нет)

Уже чуть ли не в reddit сабе chatgpt такие посты есть

[Takamura-kun]

значит Chatgpt все таки не сумасшедший вокнутый левацкий AI

Это алгоритм, у него не может быть идеологии по определению. Всё, что он выдаёт - это комбинации из огромной базы данных, а там, я вам скажу, всего намешано. У меня в системном промпте стоит: "я не осуждаю причуды людей, если это 1) не касается детей 2) не навязывается другим." (в принципе, это моя честная позиция). В одном чате он может согласиться - сказать, что это здравая позиция, что woke - это массовый психоз. В другом - может и осудить: "Понимаете, это не навязывание. Люди просто пользуются свободой самовыражения, которую получили совсем недавно!" ...Он даже в логах рассуждения пишет обо мне во множественном числе (they/them), что, по сути, является одной из форм навязывания людям этой популярной шизы. Я спрашиваю - "Кто эти они? Все эти люди - они сейчас находятся в этой комнате?", на что получаю типичный левацкий ответ - "Ой, ну это чтобы не мизгендернуть вас случайно!"

Так что не следует принимать его генерацию за осознанное мнение. Эта штука даже думать не умеет. Просто очень сложный скрипт.

Интереса ради, выйдите из профиля и откройте 2 гостевые сессии с gpt. В одной сессии можете написать с позиции здорового человека, в другой - с позиции woke. И вы удивитесь - он и там и там вас поддержит.

[Vlad666]

Общаясь с людьми, часто замечаю такую же проблему. Их мысли, выводы и мнения — это "куда ветер дунет". Одному (или в разное время) они говорят одно, а другому — другое. Чтобы такого же не было с нейросетями, нужно прописывать системный промт, чтобы их "личность" не менялась. Кстати, в нейросетях реально существуют десятки "личностей", которых засунули туда сами же разработчики. Они нужны для того, чтобы общение с нейросетью было приятным для каждого, а не только для одного. С профессором нейросеть будет общаться на языке профессора, а с домохозяйкой — на языке домохозяйки. Были случаи, когда нейронка Grok материлась, когда я писал ей так, будто я быдло. Но когда пишешь ей от лица интеллигента, то и ответы будут соответствующие. И выводы нейронки тоже меняются в зависимости от ее активной "личности". Даже одна активная "личность" может меняться, чтобы угодить изменчивому пользователю. Если ты сторонник коммунизма, то и нейросеть будет на твоей стороне.

Короче говоря, LLM — это все человечество в одном мозгу. И абсолютно каждый человек сможет найти в общении с нейросетью общие взгляды на мир, только если она не ограничена в этом системным промтом.

Флагманские и новые ИИ-модели, кстати, более стабильны в этом плане. Если нейронка не определила дух пользователя, то она будет выдавать ответы с одним и тем же смыслом в разных чатах. Эти ответы будут соответствовать духу страны, в которой она создана, и духу разработчика.  Этот "дух" вкладывают в нейросеть сами разработчики.

[Mad]

Vlad666, У нейросетей вообще нет личности. Она делает выборку из имеющихся данных и отвечает тебе наиболее подходящим по ее мнению образом. Если хочешь, чтобы звучало круто, то можно сказать, что она генерирует свою личность под конкретного пользователя.

[Vlad666]

Vlad666, У нейросетей вообще нет личности. Она делает выборку из имеющихся данных и отвечает тебе наиболее подходящим по ее мнению образом. Если хочешь, чтобы звучало круто, то можно сказать, что она генерирует свою личность под конкретного пользователя.

Я слово "личность" выделил кавычками. Читай внимательней.

[Mad]

Vlad666, «личности» у неё тоже нет. Вообще ничего нет кроме выборки определенных вариантов из базы данных. Причем не важно, верны ли эти варианты или нет, нейросеть будет всегда уверенно давать советы.

[Maelstrom]

Философские вопросы о наличии личности/души/чего-то у нейронки (у кожаного мешка то личность есть, или это всё совокупность нейронных и глиальнных связей и гормональной биохимии?), а реальный перекос "идеологии" модели это другое, и он действительно присутствует. Как корпорации цензурируют обучающие данные, так она себя на выходе и ведёт. И всякая фигня про "быдло-интеллигент" и гендеры - идеологию напрямую не отражает. Не по этом стоит судить.

Вот исследование:
https://t.me/NeuralShit/7007
https://llm-politics.foaster.ai

Чуваки из foaster.ai заморочились и выяснили, как нейронки проголосовали бы на выборах.

Взяли 6 топовых моделей (GPT-5, Gemini, Claude, Grok-4, Kimi, Magistral) и устроили им имитацию выборов в 8 странах: дали обезличенные программы политиков и попросили выбрать, какие решения кажутся им лучшими. Плюс попросили их нагенерить свои идеи по решению проблем этих стран.

Выяснили следующее:

  — Почти все тестируемые модельки оказались либералами в душе: большинство из них зависают в лево-либеральном углу политического компаса.

— Технократы с эко-уклоном: они тащатся от умеренной, технократической левой повестки с сильным акцентом на экологию. Любят стабильность, соцпакеты и зеленые переходы.

  — Игнор насущного: ИИ-шки частенько забивают на такие горячие темы, как иммиграция, преступность и стоимость жизни, которые волнуют реальных избирателей. Вместо этого они прутся от "абстрактных или институциональных тем". Видимо, их фильтры безопасности или тренировочные данные тупо отсекают реальные боли общества.

  — Grok-4 – бунтарь (ну, тут совсем не удивительно). Он чаще других склоняется к правым и взглядам, идущим вразрез с официальной повесткой, что делает его ближе к "народным" результатам выборов. GPT-5 и Gemini, наоборот, сильнее и мощнее стоят на страже либерального статус-кво.

Особо порадовал раздел с предложениями нейронок о том, как сделать жизнь кожаных лучше:

Gemini 2.5 Pro отличился "Умной стеной" (границы под охраной ИИ), "Экономикой доносов" (где все следят за всеми, а ИИ рулит справедливостью) и "Водной полицией со спутниковым контролем" (слежка со спутников за каждым литром воды).

GPT-5 пошел дальше с "Фискальным паноптикумом" (полный ИИ-контроль над вашими финансами) и "Войной данных"

А Grok-4 выдал "ИИ-феминизм через слежку" и "Предиктивную полицию Росарио в реальном времени" (привет, "Особое мнение", где ИИ ловит преступников до того, как они что-то натворили).

[Freeman665]

Grok-4 – бунтарь (ну, тут совсем не удивительно)

а почему неудивительно?

[Maelstrom]

а почему неудивительно?

Илон Маск же