Questão 26 Fuvest 2020 - 1ª fase
Assigning female genders to digital assistants such as Apple’s Siri and Amazon’s Alexa is helping entrench harmful gender biases, according to a UN agency.
Research released by Unesco claims that the often submissive and flirty responses offered by the systems to many queries – including outright abusive ones – reinforce ideas of women as subservient.
“Because the speech of most voice assistants is female, it sends a signal that women are obliging, docile and eager‐toplease helpers, available at the touch of a button or with a blunt voice command like ‘hey’ or ‘OK’”, the report said.
“The assistant holds no power of agency beyond what the commander asks of it. It honours commands and responds to queries regardless of their tone or hostility. In many communities, this reinforces commonly held gender biases that women are subservient and tolerant of poor treatment.”
The Unesco publication was entitled “I’d Blush if I Could”; a reference to the response Apple’s Siri assistant offers to the phrase: “You’re a slut.” Amazon’s Alexa will respond: “Well, thanks for the feedback.”
The paper said such firms were “staffed by overwhelmingly male engineering teams” and have built AI (Artificial Intelligence) systems that “cause their feminised digital assistants to greet verbal abuse with catch‐me‐if‐you‐can flirtation”.
Saniye Gülser Corat, Unesco’s director for gender equality, said: “The world needs to pay much closer attention to how, when and whether AI technologies are gendered and, crucially, who is gendering them.”
The Guardian, May, 2019. Adaptado.
Segundo o texto, o título do relatório publicado pela Unesco ‐ “I´d Blush if I Could” , no que diz respeito aos assistentes digitais, indica
| a) |
resposta padrão para comandos que incluem impropérios. |
| b) |
capacidade tecnológica para selecionar temas sensíveis ao grande público. |
| c) |
preocupação dos fabricantes de dispositivos eletrônicos com usuários conservadores. |
| d) |
perda de controle das formas de interação entre seres humanos e máquinas. |
| e) |
necessidade de elaboração de sistemas integrados de reconhecimento de voz. |
a) Correta. No trecho abaixo podemos ver algumas respostas padrão das assistentes com vozes femininas para comandos que incluem xingamentos e impropérios machistas.
The Unesco publication was entitled “I’d Blush if I Could”;
a reference to the response Apple’s Siri assistant offers to the phrase: “You’re a slut.” Amazon’s Alexa will respond: “Well, thanks for the feedback.”
A publicação da Unesco foi intitulada "Eu coraria se eu pudesse"; uma referência à resposta que a assistente Siri da Apple oferece à frase: "Você é uma vagabunda". Já a assistente Alexa, da Amazon, responderia: "Bem, obrigado pelo feedback."
b) Incorreta. O título do relatório publicado pela Unesco "I´d blush if I could" (Eu coraria se eu pudesse) não caberia se o assunto se referisse à capacidade tecnológica para selecionar temas sensíveis ao grande público.
c) Incorreta. O relatório da Unesco não está preocupado com os usuários conservadores, mas com a perpetuação do preconceito de gênero.
d) Incorreta. O relatório da Unesco não indica uma perda de controle das formas de interação entre seres humanos e máquinas, mas uma preocupação com o preconceito de gênero.
e) Incorreta. O relatório cujo título é "I´d blush if I could" não trata da necessidade de elaboração de sistemas integrados de reconhecimento de voz, e sim da forma como essas assistentes femininas estão reforçando o estereótipo de gênero.