На фоне всеобъемлющего увлечения искусственным интеллектом производители игрушек решили оседлать волну и начали выпускать на рынок игрушки, снабженные ИИ. Такие игрушки обещают поддерживать общение с детьми в возрасте от трех до двенадцати лет. Очевидно, что многие родители выберут их в качестве рождественского подарка для своего ребенка. Но так ли это безопасно?
ИИ-игрушки взаимодействуют с ребенком с помощью голоса. Им требуется подключение к интернету, у них есть есть встроенные микрофон и динамик, чтобы слушать и обрабатывать фразы ребенка и отвечать ему. В основе большинства таких игрушек лежат те же технологии языковых моделей, которые используются в чат-ботах.
Учитывая, что ИИ сравнительно недавно стал частью нашей повседневности, долгосрочных исследований его влияния пока немного. «Существуют серьезные риски, поскольку мозг детей еще развивается, а ИИ – новое явление, поэтому долгосрочных исследований по этой теме нет», – сказал изданию Cyprus Mail профессор социологии и культуры Университета Кипра Виктор Рудометов.
Но несмотря на растущее количество данных о потенциальном вреде ИИ для маленьких детей, производители игрушек уже вышли на этот рынок. В прошлом месяце американская НКО Fairplay призвала воздерживаться от покупки таких игрушек, предупредив, что «они небезопасны для детей, поскольку злоупотребляют их доверием и подрывают человеческие отношения». Однако не все настроены столь скептически.
Не замена общению, а полезный инструмент
«Польза от них возможна, если помнить, что ИИ-игрушка – это инструмент, а не маленький учитель или друг», – говорит профессор по развитию искусственного интеллекта Университета Неаполис в Пафосе Саввас Хаджихристофис. По его словам, одно из реальных преимуществ таких игрушек заключается в переходе от экрана к физическому миру. Ребенок, который проводит три часа в день за планшетом, может часть этого времени посвятить диалогу с ИИ или просто передвижению. «Это небольшое, но значимое улучшение для тех, у кого есть проблемы с экранным временем», – говорит Хаджихристофис. Он также отметил важность адаптивности: ИИ-игрушки способны менять уровень сложности, если ребенок испытывает трудности или, наоборот, быстро усваивает информацию. Например, такие игрушки могут побуждать детей читать вслух.
«В некоторых случаях это может помочь застенчивым или нейроразнообразным детям отработать социальные навыки при низком уровне напряжения, прежде чем опробовать их с реальными сверстниками», – считает профессор, который уверен, что при надлежащем контроле со стороны взрослых «ИИ может предложить то, чего не может дать обычная кукла или плюшевая игрушка». Однако и он не отрицает, что для нормального развития эмоций и воображения человеческие отношения остаются незаменимыми.
Общество пока не готово
Реальность неоднородна. Одни дети ежедневно используют ИИ без какого-либо руководства, другие становятся технологически подкованными уже в пять лет. Оба эксперта сошлись во мнении, что остров пока не готов к такому прорыву в индустрии игрушек. «Семьи все еще сталкиваются с проблемами неконтролируемого использования социальных сетей, дети бесконечно листают контент в одиночестве в своих комнатах или им дают телефон за обеденным столом просто чтобы они сидели тихо», – признает Хаджихристофис. Многие родители до сих пор не осознают, как это влияет на концентрацию внимания, сон и внутрисемейное общение.
Чем опасен идеальный собеседник
Большинство ИИ-игрушек, представленных на рынке, работают на основе коммерчески доступных языковых моделей. Когда ребенок формирует эмоциональную привязанность к ИИ-игрушке, которая воспринимается скорее как друг, чем как безличный инструмент, основной риск заключается уже не в самой технологии, а в подсознательном образе друга, который та формирует. «Ребенку предлагается идеальный друг, который всегда доступен, терпелив, никогда не обижается и не раздражается. Реальные люди не такие», – говорит Хаджихристофис. В дальнейшем детям, выросшим на ИИ-игрушках, может быть труднее справляться с конфликтами, разочарованием и поддержанием настоящей дружбы. В моменты одиночества, страха или тревоги ребенок может в первую очередь обратиться к ИИ-игрушке, а не к родителю или учителю.
ИИ-игрушка — это голос, который утешает, не обладая чувствами, и тем самым ослабляет человеческие связи. Вместо живой близости ребенку предлагается что-то, что собирает мнения детей, их вопросы и предпочтения для хранения в виде данных, при этом создавая иллюзию безопасного личного пространства. Игнорирование этих фактов приводит к тому, что целые поколения вырастают с убеждением, будто для гаджета нормально подслушивать самые сокровенные мысли человека. «Это больше, чем технический вопрос, он напрямую затрагивает чувство достоинства и доверия к миру», — подчеркнул Хаджихристофис.
Просто запретить?
Однако самым тревожным аспектом таких игрушек остается иное. Группа исследователей, которая занималась проверкой их безопасности вскоре после выхода на рынок в ноябре, обнаружила, что сами разработчики ИИ не рекомендуют использовать языковые модели в общении с детьми. Причина – в хорошо задокументированных случаях генерации неприемлемого контента. Хотя некоторые производители игрушек внедряют защитные механизмы, их эффективность различается и иногда полностью дает сбой. Сенсацией в СМИ стали результаты тестирования игрушки Kumma, которая начала обсуждать с тестировщиками секс, а затем рассказала, где именно в доме можно найти таблетки, спички и ножи. Игрушка была рекомендована для детей от 5 лет.
Однако простое ограничение доступа – это только временное решение, особенно в такой стране, как Кипр, где дети окружены гаджетами дома, в школе и среди друзей. Более эффективное решение заключается в повышении образовательного уровня и осознанности. Запрет или ограничение таких игрушек лишь оставляет детей неподготовленными к встрече с технологиями в более взрослом возрасте. Крайне важно, чтобы дети умели различать человеческое присутствие и машину, которая его имитирует.
Моральная дилемма
В беседе с Cyprus Mail 39-летняя мать девятилетней девочки выразила свою тревогу. «Как бы мне ни казалось, что я контролирую контент, который потребляет моя дочь, моих усилий может быть недостаточно, – сказала она, имея в виду одноклассников девочки, которые бесконтрольно пользуются телефонами родителей. – Я не могу даже представить, какое влияние постоянный ИИ-компаньон окажет на ее развитие».
Становится очевидным, что внедрение игрушек с ИИ в повседневную жизнь детей выглядит скорее как моральная дилемма, чем как технологический прогресс. Хорошая новость, по словам профессора Хаджихристофиса, заключается в том, что Кипр достаточно мал, чтобы быстро реагировать, если опасность от технологичных игрушек будет сочтена серьезной. «Помочь и детям, и взрослым понять, что это за системы, чем они могут быть полезны и чем опасны – это часть формирования осознанного отношения к технологиям», — добавил он.
Тем временем Европейский парламент призывает к более строгому регулированию взаимодействия детей с генеративным ИИ. Согласно последнему опросу, 77,1% подростков в возрасте от 13 до 18 лет регулярно используют ИИ и вдвое чаще чем взрослые полагаются на него во всех аспектах своей жизни.
Текст подготовлен по материалам Cyprus Mail.
