Эксперимент поставил студент Стэнфордского университета Кевин Лю.
Студенту Стэнфордского университета Кевину Лю удалось обойти правила Microsoft и через придавленный недавно обновленный поисковик на технологии чат-бота ChatGPT он узнал список утверждений, которые регулируют, как она должна взаимодействовать с людьми, применяющими сервис.
Кроме внутренних инструкций, студент также «выудил» внутреннее кодовое имя системы - Sydney (Сидней).