По словам специалиста, алгоритм работы таких программ должен строиться исключительно на контроле со стороны человека. Процесс не должен идти по принципу, когда ИИ самостоятельно выбирает файлы и окончательно стирает их. Решающее действие всегда должно оставаться за пользователем.
«Процесс чистки диска от ненужных файлов должен идти не по принципу, когда ИИ выбрал файлы и окончательно удалил их. Решающее действие должно быть за пользователем. Вначале агент должен предоставить список файлов и их анализ. Причем не удалять их полностью, а переместить в корзину», — пояснил Рыбальченко в интервью РИАМО.
Эксперт также обратил внимание на важный нюанс в архитектуре нейросетей: доступ модели к файлам для их анализа и ее обучение на этих данных — не одно и то же. Будет ли личная информация покидать компьютер, передаваться на серверы разработчиков и использоваться для улучшения алгоритмов, зависит от настроек конкретного сервиса и его политики обработки данных.
«Агенту действительно может понадобиться прочитать содержимое диска, чтобы понять, что перед ним. Но будут ли эти данные покидать компьютер, передаваться на сервер, храниться и использоваться для улучшения моделей, зависит уже от архитектуры конкретного продукта, его настроек и политики обработки данных», — заключил эксперт.