Projeye göre Tay’ın Twitter’da kullanıcılarla sohbet ederek zekâsını geliştirmesi gerekiyordu. Ancak Tay konuşmaması gereken insanlarla fazla vakit geçirdi. 1 günün sonunda ‘Hitler yanlış bir şey yapmadı’ gibi Nazi yanlısı tweetler atmaya başladı. Feministlere de ağır hakaretlerde bulundu. Microsoft tweetleri silse de Twitter kullanıcıları firmayı sorumsuzlukla suçladı.