O Caso do Vestível Controlador
Um caso hipotético, o Caso do Vestível Controlador é composto por 8 matérias jornalísticas que revelam os desdobramentos de uma investigação: uma tecnologia vestível causa a paralisia de uma pessoa, resultando em um acidente com vitimas fatais. Este cenário levanta questões de ética computacional, sistemas sociotécnicos, e engenharia de sistemas computacionais interativos.
As matérias começam com a acusação de homicídio culposo de um programador que escreveu um código defeituoso de um sistema vestível, resultando em um acidente aéreo com mais de uma centena de vítimas. Ao longo das matérias, novos fatores que também contribuíram para o acidente são revelados, adicionando complexidade ao caso. Esses fatores mostram questões sociais e técnicas que entrelaçam e permeiam o design de sistemas computacionais interativos.
As pessoas e instituições envolvidas neste cenário são inteiramente fictícias, exceto pelas referências a docentes do Departamento de Informática da Universidade Federal do Paraná (UFPR) e pela menção à SBC Horizontes, feitas para contextualizar o caso na instituição em que ele foi criado e utilizado. O caso foi criado para ser utilizado no escopo de uma disciplina de Introdução à Computação, para:
1) promover a discussão sobre questões éticas e de responsabilidade profissional;
2) apresentar áreas, conceitos e profissões comuns na Computação; e
3) citar docentes, laboratórios e outras curiosidades locais da universidade. Ao reusar o caso, adaptar as partes de contexto específico.
Abaixo, consulte o índice das matérias, uma lista das principais áreas e conceitos cobertos, e as principais personagens envolvidas no caso.
Dispositivo vestível provoca acidente aéreo que mata centenas de pessoas no litoral do Paraná. Programador é o principal suspeito.
Índice
- Programador é indiciado por queda de avião que matou 113 pessoas
- “Vestível Controlador” pode ter muitas outras falhas
- Vina Systems pode estar mergulhada em fraudes
- Equipe de desenvolvimento do “Vestível Controlador” trabalhava sob enorme pressão
- “Vestível Controlador” pode ter sido projetado para falhar
- Projeto do “Vestível Controlador” negligenciou a experiência do usuário
- “IA preconceituosa” pode estar por trás do acidente aéreo que matou 113 pessoas
- Vina Systems admite problemas com testes do “Vestível Controlador”
Áreas/temas cobertos nas matérias:
- Codificação do dispositivo
- Requisitos/especificação
- Modelo de processo de desenvolvimento
- Interface com o usuário, questões sociais e do ambiente de uso
- I.A, bias no treinamento,
- Problema na rotulação, terceirização do processo, precarização do trabalho, viés no trabalho
- Teste de software
- Ética e tecnologias computacionais
- Multidisciplinaridade
Lista de personagens:
- Alberta Dumont, piloto do avião DX486
- Josefa dal Gema, delegada de polícia
- Jade Scobri, repórter investigadora, colunista na revista Horizontes
- Malcom Pila, programador
- SBC Horizontes, veículo de investigação
- Universidade Federal do Paraná (UFPR), instituição dos docentes de Computação
- Docentes do Departamento de Informática, UFPR
- Centro de Ciências Forenses
- Hélio Musk, diretor de negócios na Vina Systems
- Eliza Ventura, Scrum Master e responsável pelo projeto do iWear
- Fontes, pessoas que atuam em diferentes funções na Vina Systems ou que possuem acesso à informações privilegiadas.
Inspiração: o caso foi inspirado no The Case of the Killer Robot: https://onlineethics.org/cases/case-killer-robot
O Caso do Vestível Controlador © 2022 by Roberto Pereira, Fabiano Silva and Leticia Mara Peres is licensed under CC BY-NC-SA 4.0.
Como citar esse caso:
PEREIRA, Roberto; SILVA, Fabiano; PERES, Leticia Mara. O Caso do Vestível Controlador. SBC Horizontes. ISSN 2175-9235. Disponível em: <http://horizontes.sbc.org.br/index.php/o-caso-do-vestivel-controlador/>. Acesso em: dd mês aaaa.