Власти ЮАР вынесли на общественное обсуждение проект национальной политики в области искусственного интеллекта. Однако документ привлек внимание экспертов не столько своим содержанием, сколько наличием ссылок на несуществующие научные работы. Это стало наглядным подтверждением того, что при подготовке законопроекта разработчики воспользовались нейросетями, которые допустили «галлюцинации», внедрив вымышленные источники в официальный документ.
Согласно результатам анализа, как минимум 6 из 67 цитируемых в тексте работ не существуют в действительности. Министр связи ЮАР Солли Малаци (Solly Malatsi) признал, что наиболее вероятной причиной ошибки стало использование генеративного ИИ. Он подчеркнул, что ссылки были включены в черновик без должной проверки со стороны ответственных лиц, что является недопустимой халатностью.
Малаци расценил ситуацию не просто как техническую накладку, а как серьезный провал в системе контроля качества. В результате ведомство было вынуждено аннулировать законопроект и отправить его на полную переработку. Министр отметил, что инцидент наглядно демонстрирует необходимость жесткого человеческого контроля за любыми результатами работы нейросетей. По его словам, сотрудники, ответственные за подготовку и утверждение документа, понесут наказание.
Важно отметить, что первоначальная редакция законопроекта содержала амбициозные планы по регулированию индустрии. Документ закладывал фундамент для создания новых надзорных структур, включая национальную комиссию по ИИ и специализированный совет по этике. Также в тексте предлагались меры по стимулированию отрасли в ЮАР, такие как налоговые льготы, гранты и субсидии для проектов, направленных на развитие технологий на базе больших языковых моделей.
