Как я уже сказал - сочинять и компилировать нейросети научились, хоть и криво. Но почему-то плохо справляются с простыми ответами на простой вопрос, где ответ - банальная фактическая информация. Например исторические даты, не являющиеся спорными, астрономические данные, которые не изменялись 60+ лет и прочее-прочее, что выдает любой поисковик или древняя мультимедийная энциклопедия на CD.
И даже с распознаванием лиц, ради чего сейчас корпорации и государства так радостно используют нейросети часто всё не так уж весело. Например нейросеть спутала полутораметровую девочку-азиатку и двухметрового шестидесятилетнего бородатого негра. Ни малолетний ребенок, ни собака или кошка так облажаться не способны.
Или вот большие модели типа кодер на запрос "напиши клон Breakout (Pong, Tetris)" должны сразу выдавать полностью работоспособную игру в базовом варианте на основных языках программирования - то есть должны быть отработаны собственно запуск игры, игровой процесс, завершение игры, перезапуск, ввод имени при достижении рекорда, настройка уровня сложности, там где она есть в оригинальной игре. Потому, что это всё является обычным компонентом обучения студентов и готовый код лежит в сети тоннами. А когда огромная коммерческая модель, работающая на огромном кластере и за доступ к которой осуществляется за подписку не в состоянии сделать такие простые вещи, значит технология очень сырая и не совсем правильно развивается. Ибо правильное развитие - от базы к сложному.
Или вот музыкальные нейросети. Я тут расказывал про приемы защиты от ремиксов нейросетями. Оказывается, что если взять просто драм-машину, гитару и синтезатор (в данном случае Oberheim OB-X) и написать минутный трек с синтезаторным соло в духе Rush, то бедная нейросеть не в состоянии сделать на это ремикс, выдает жуткую какофонию. Просто когда в один момент встречается разрыв ритма ударных и достаточно сложное клавишное соло, плюс на фоне играет гитара и простой монотонный синтезаторный бас, этот гениальный ИИ путается в ритмах и мешает всё в кучу, путая инструменты, выбирая какие-то хаотичные звуки и ритмы, не имеющие ничего общего с исходными.
Хотя казалось бы - частоты разные, сонограмма вообще непохожа, даже пятилетний ребенок всё отделит как надо, да даже животное, способное чувствовать ритм. А у нейросети шизофрения наступает.
Еще смешнее, когда какая-нибудь заточенная под слабое железо модель весом в 5Гб с простыми вещами справляется лучше и выдает четкий ответ, а не изображает пьяного рекламщика или политика, выливая тонны воды и ошибаясь в фактах.
