Власти Китая переходят к жесткому регулированию индустрии «цифровых людей» — реалистичных ИИ-аватаров, чья популярность стремительно растет как в бизнесе, так и в личной жизни пользователей. Новые меры продиктованы не только активным коммерческим развитием сектора, но и серьезными этическими рисками.
История «цифрового отца» и рост рынка
Одним из драйверов обсуждения стала история 47-летней Чжан Синьюй из провинции Ляонин. После смерти отца от онкологического заболевания она воспользовалась услугами компании Super Brain для создания цифровой копии родителя. ИИ-аватар с высокой точностью имитирует внешность и голос покойного, позволяя женщине продолжать «общение». По признанию Чжан, это стало способом обрести эмоциональную устойчивость, хотя она и осознает, что технология может давать лишь иллюзию утешения.
Подобные кейсы перестают быть единичными. В КНР виртуальные личности активно внедряются в социальные сети, сектор электронной коммерции и сферу производства контента. По информации Xinhua News Agency, объем рынка «цифровых людей» в 2024 году достиг 4,1 млрд юаней (около $600 млн), продемонстрировав внушительный годовой рост на 85%.
Новые правила регулирования
На фоне участившихся споров Cyberspace Administration of China подготовила проект нормативных актов. Ключевые требования включают:
- Обязательную маркировку любого контента, созданного искусственным интеллектом.
- Запрет на создание цифровых копий реальных людей без их предварительного согласия.
- Меры по борьбе с мошенничеством, распространением дезинформации и контентом, угрожающим национальной безопасности.
- Защиту несовершеннолетних: под запрет попадают системы, способные вызывать эмоциональную зависимость или имитировать романтические и близкие отношения.
За нарушение установленных норм предусмотрены штрафы в размере от 10 тыс. до 200 тыс. юаней (примерно $1 460 – $29 300). Импульсом к столь жестким мерам стал инцидент, получивший огласку в социальных сетях: пожилая женщина долгое время вела переписку с крайне реалистичным ИИ-аватаром своего умершего сына, не осознавая, что общается с программой. Этот случай спровоцировал общественные дебаты о границах между психологической поддержкой и манипуляцией.
Баланс между технологиями и этикой
Эксперты подчеркивают, что развитие отрасли в Китае проходит по привычному сценарию: стремительный рывок технологий с последующим оперативным внедрением госрегулирования. Представители рынка, включая основателя Super Brain, называют инициативу властей необходимым шагом для поиска равновесия между инновационным потенциалом и социальной ответственностью.
Общественное обсуждение предложенных правил продлится до начала мая, после чего ожидается введение окончательных требований. Опыт Китая в вопросах контроля цифровой идентичности и защиты прав личности может стать важным прецедентом для мирового сообщества, которое также сталкивается с влиянием искусственного интеллекта на человеческую психику.
