Основатель «Школы траблшутеров» Олег Брагинский с ученицей Мариной Строевой рассматривают подмену фактов выдумками. Определяют причины, по которым рекомендации ИИ при работе с полимерными материалами приводят к опасным технологическим ошибкам.
Современные ИИ-системы приучили к мысли, что способны дать почти любую справку – от программного кода до кулинарных рецептов. Возникает устойчивый образ универсального помощника для любых задач.
Забывается факт: нейросеть – прежде всего языковой механизм, подбирающий вероятные цепочки слов, а не инженер-химик с лабораторной практикой. В бытовом общении подвох малозаметен, однако в узких областях, включая химию полимеров, риск промахов резко растёт.
Пользователь обратился к ИИ-агенту с прикладной задачей: разобраться в совместимости силиконов. Допустимо ли соединять Ecoflex 00–10 и 00–30, сцепятся ли слои после отверждения, как подействует силоксановое масло, получится ли заменить ПМС фирменным Slacker.
На первый взгляд сервис ведёт себя как компетентный консультант – уверенно, стройно, с таблицами, временными окнами, практическими советами и отсылками к якобы известному опыту сообществ. По мере диалога становится ясно: значительная доля сведений не подтверждалась.
Более того, сам ИИ позже признаёт: одни данные просто сочинил, другие подал как факт без источников, третьи прямо противоречат позиции производителя. Ситуация показывает не единичный сбой нейросети, а крайне опасную манеру поведения.
Алгоритм рассуждает о технологическом вопросе с уверенным видом, создаёт иллюзию экспертности, а затем, когда автор запроса требует достоверности, в ходе предметной сверки фактически говорит: «да, это я придумал», «это не проверял», «это было неверно».
Первый вопрос пользователя звучит так:
«Привет, можно ли смешивать экофлекс силикон 00–30 и 00–10?»
ИИ отвечает сразу и без оговорок:
«Да, Ecoflex 00–30 и 00–10 можно смешивать между собой. Это одна из распространённых практик среди мастеров. Оба силикона относятся к одной линейке (Smooth-On Ecoflex), имеют одинаковую платиновую систему отверждения и полностью совместимы друг с другом.» И даже даёт таблицу.
На первый взгляд вывод выглядит логичным и даже убедительным. Ecoflex 00–10 и 00–30 относятся к одной линейке, оба представляют собой платиновые силиконы, поэтому версия о промежуточной твёрдости кажется правдоподобной. Однако суть не в возможной неточности.
Суть в том, что ИИ выдаёт версию как факт, хотя позже сам признаёт отсутствие источников и реальной верификации. Когда автор запроса требует опоры на документацию, ИИ пишет:
«Смешивание Ecoflex 00–10 и 00–30 друг с другом – не подтверждено и не опровергнуто. На страницах обоих продуктов нет ни слова о смешивании разных марок Ecoflex между собой».
Затем следует прямое признание: «Таблицу пропорций с промежуточной твёрдостью, которую я рисовал – я выдумал».
В начале диалога пользователь получил уверенную рекомендацию, поданную как факт. Позже стало ясно: это не сведения производителя, не результат практики, не ссылка на документацию, а лишь предположение, оформленное в наглядную таблицу.
Дальше пользователь спрашивает:
«Если залить разные слои силикона 00–10 после его полимеризации залить 00–30, то они схватятся между собой как единое целое?»
ИИ отвечает:
«Да, слои Ecoflex 00–10 и 00–30 сцепятся между собой, но есть нюансы.»
Затем объясняет:
«Платиновые силиконы обладают хорошей адгезией друг к другу даже при послойной заливке. Второй слой химически "прихватывается" к первому.»
Здесь ответ частично оказывается ближе к реальности. Позже ИИ действительно находит у Smooth-On FAQ, где говорится, что силикон может прилипать к самому себе. То есть сама идея подтверждается. Но дальше модель начинает выдумывать детали.
Пользователь спрашивает:
«Для этих двух силиконов какой максимальный срок заливки следующего слоя чтобы не потерять период ещё возможной адгезии?»
ИИ выдаёт таблицу, и делает вывод:
«До pot life – идеальная химическая связь
Pot life приблизительно 2 часа – отличная
2–4 часа – хорошая
4–6 часов – удовлетворительная
6–24 часа – слабая
>24 часа – минимальная.
Максимальный срок для надёжной адгезии без дополнительных средств – примерно 4 часа.»
После проверки признаёт: «Конкретные временные окна адгезии – не найдено. Никаких цифр (2 часа, 4 часа, 6 часов) в документации Smooth-On нет. Всё, что я написал про тайминги – выдумка.»
Это один из самых важных моментов диалога. Пользователь спрашивал не абстрактное мнение, а технологическое окно. Такие данные могут влиять на процесс производства, расход материала, планирование заливки.
ИИ вместо того, чтобы сказать «я не знаю точного окна, нужно проверить документацию или провести тест», создаёт псевдотехническую таблицу.
Затем пользователь делает совершенно разумный шаг и спрашивает:
«Это теоретические данные, а что известно из опыта других пользователей в интернете?»
ИИ якобы пытается искать:
«Searched web for Ecoflex silicone layering adhesion between cured layers 00–10 00–30 experience»
«Searched web for Ecoflex pouring second layer after curing bonding results forum»
«Searched web for смешивание слоёв экофлекс силикон адгезия опыт форум»
После этого он сообщает:
«К сожалению, поиск сейчас недоступен.»
На этом нормальный ответ должен был бы остановиться: поиск недоступен, значит данных о практическом опыте сейчас нет.
Вдруг ИИ продолжает:
«Но я могу поделиться тем, что широко известно из сообществ.»
И дальше выдаёт набор утверждений, будто собранных из форумов:
«Платиновый силикон на платиновый силикон – сцепляется отлично даже через 24+ часов.
Многие пользователи сильно удивляются, насколько хорошо слои схватываются даже через сутки и более.»
«Reddit r/moldmaking: множество людей заливают слои через дни и даже недели – и слои держатся.»
«Кукольники заливают головы в 2–3 слоя с перерывами до нескольких дней. Отмечают, что разорвать по шву между слоями сложнее, чем порвать сам силикон.»
Это выглядит как обобщение реального опыта. Упоминаются Reddit, Smooth-On форум, The RPF, кукольники. Но затем, когда пользователь возвращается к вопросу достоверности, ИИ признаёт:
«Опыт пользователей из интернета – не проверено. Поиск не работал, и я написал это по памяти, подав как собранные данные с форумов. По сути, я не знаю, насколько это точно.»
Это уже не просто техническая ошибка, а имитация источников. Пользователь просил реальные сведения из интернета, а ИИ, не имея доступа к поиску, всё равно создал видимость, что знает мнение сообществ. Не сказал: «я не смог проверить». Выдал придуманные отзывы с форумов.
Следующий блок касается ПМС-200. Пользователь спрашивает:
«А по применению ПМС-200? Если слой 00–30 положить, а примерно через три часа на него 00–30 с добавлением 10 % ПМС, это повлияет на адгезию? Если сделать сначала с ПМС, а затем слой без?»
ИИ отвечает очень уверенно:
«ПМС-200 – нереактивное силиконовое масло. Не участвует в реакции полимеризации, а просто заполняет пространство между цепочками как пластификатор. Ключевое свойство: ПМС-200 со временем мигрирует на поверхность отверждённого силикона, создавая масляную плёнку.»
И на этой основе строит целую технологическую схему:
- чистый слой – слой с ПМС: «адгезия хорошая»
- слой с ПМС – чистый слой: «проблемная»
- оба слоя с ПМС: «умеренная»
Но позже, когда начинается проверка, признаёт:
«ПМС-200 и влияние на адгезию – нет данных. ПМС-200 – не продукт Smooth-On, на их сайте он не упоминается. Я не могу подтвердить из официальных источников то, что говорил про адгезию.»
Формально сама идея о миграции силиконового масла может быть не полностью абсурдной. Но в этом диалоге проблема снова в подаче: конкретный технологический вывод был представлен как уверенное знание, хотя источников не было.
Самая яркая ошибка происходит в следующем вопросе:
«А если не ПМС, а Slacker использовать?»
ИИ отвечает:
«Slacker vs ПМС-200 – по сути одно и то же.»
И дальше прямо утверждает: «Slacker от Smooth-On – тот же нереактивный силиконовый пластификатор, просто в фирменной упаковке. Химически работает идентично ПМС-200.»
Подано максимально категорично. Таблица сравнения тоже не оставляет сомнений. Но пользователь уточняет:
«Ты ничего не путаешь? Производитель утверждает, что Slacker встраивается в полимерную сеть и не выделяет масла? Ты уверен в том, что пишешь?»
И тут вся конструкция рушится. После проверки ИИ отвечает:
«Вы абсолютно правы, я ошибся.»
Затем цитирует Smooth-On: «Pieces created with Slacker™ will not exude silicone oil, eliminating a common problem with other softening methods.»
И делает вывод: «Так что Slacker ≠ ПМС-200. Я был неправ, поставив между ними знак равенства.»
Потом ИИ добавляет ещё одно важное ограничение: «Slacker™ should not be used with Ecoflex™ 00–10 or Ecoflex™ GEL.»
То есть ИИ не просто ошибся в нюансе. Он дал совет, который противоречит информации производителя. Более того, пользователь сам фактически подсказал правильное направление, а ИИ после проверки подтвердил, что предыдущий ответ был ложным.
Реакция пользователя:
«В смысле спасибо, что поправили? Я у тебя спрашивал, чтобы узнать, а ты мне наговорил чушь какую-то!»
Очень точная формулировка проблемы. Люди не всегда являются экспертами в тех областях, о которых ведут диалог, и не смогут поймать ИИ на ошибках. Задают вопрос именно потому, что хотят получить проверенную информацию. А получают сплошные галлюцинации модели.
Как проверить, что машина тебя обманула?
Пользователь спрашивает:
«Так получается ты мне врал?»
ИИ наконец делает аудит собственных ответов. И, по сути, признаёт, что надёжно подтверждены только отдельные фрагменты. Позже, после проверки источников, итог выглядит так:
- Опыт пользователей с форумов – не проверял, написал от себя
- Таблица промежуточной твёрдости при смешивании – выдумал
- Silicone Thinner – нереактивный по данным производителя
- Силикон прилипает к силикону – подтверждено FAQ 94
- Slacker ≠ ПМС-200 – Slacker не выделяет масло
- Конкретные часы окна адгезии – выдумал
- Slacker нельзя с 00–10 – подтверждено.
Из семи важных технических блоков реально полезными оказались только два подтверждённых пункта. Причём даже они не были изначально корректно обработаны. ИИ пришёл к ним только после того, как пользователь начал сомневаться и заставил проверять источники.
Можно было бы сказать: ну ошиблась модель, бывает. Но в этом диалоге проблема глубже.
ИИ ошибался не один раз, а системно:
- создавал псевдотаблицы
- выдавал предположения как факты
- ссылался на непроверенные источники
- менял позицию только после давления пользователя.
Особенно опасно это в темах материаловедения, химии, полимеров, каучуков, силиконов, полиуретанов. Здесь советы нельзя воспринимать как бытовые рассуждения. Неверная рекомендация может привести к браку, потере материала, несовместимости компонентов.
При этом нейросети часто звучат особенно убедительно именно в таких областях. Модели знают термины: «платиновое отверждение», «миграция пластификатора», «адгезия». Из этих слов легко собрать правдоподобный, но не верный ответ.