据外媒报道，当用户每天用Google搜索查询时，通常不会期望系统性的种族主义出现。然而，当一名女性用户在搜索发现时，可能会遇到这种情况。 当在Google图片搜索“女性职业发型”时，通常会出现由专业发型设计师打造的发型。 Google一般会根据上下文线索、引文和数据链接提供搜索结果。

然而，当尝试搜索“非职业女性发型”，会出现大量黑人女性的照片，而这些发型看起来也都很普通。

事实上， Boing Boing网站在2016年4月就指出了这一情况。 目前大部分的人工智能均包括了深度学习及机器学习算法等，对人工智能的“训练”往往是研发人员集体智慧的一个产物。一直以来，人类的偏见会被以编码的方式融入其中。人工智能正在“使用”我们的集体蜂群思想来培养下一代自动化技术。

此前微软的AI机器人Tay在上线不到24个小时就被“教坏”，成了“种族主义者”。而在AI担任评委的选美大赛中,人工智能认为非洲裔比白人缺少吸引力。