Любопытно.
В 2016-ом году AlphaGo одержал победу над лучшим игроком в Go. Считалось, что на этом всё - человек больше не сможет победить AI.
Однако, недавно любитель успешно обыграл парочку из лучших современных AI - KataGo и Leela Zero.
Уязвимость была найдена с помощью компьютера, но потом эту идею использовал обычный человек с любительским рангом и выиграл серию игр (14 из 15).
https://arstechnica.com/information-tec ... y-over-ai/
Уязвимость простая на самом деле, игрок человек никогда не позволил бы обыграть себя таким образом.
К вопросу о надёжности современных AI - если где-то будут активно внедрять, то так же активно будут искать (и находить) уязвимости.