A importância do monitoramento dinâmico da segurança: aprendendo com erros passados
A importância do monitoramento dinâmico da segurança: aprendendo com erros passados
Por Daniel Lotto
A segurança deveria começar no projeto, mas às vezes, isso não acontece. Erro humano ou situações imprevistas fazem parte do processo, mas a negligência não deveria fazer. Claro que depois do ocorrido, é sempre mais fácil criar narrativas para explicar, mas os casos que irei comparar, revelam a importância do papel das pessoas.
Após assistir a um documentário sobre o caso Therac-25, que era uma máquina de radioterapia controlada por computador (1985-1987), onde uma falha oculta levava a aplicação de doses cavalares de radiação nos pacientes, pude observar fortes semelhanças com caso dos acidentes com o 737 MAX (2018-2019).
Apesar da enorme diferença de tempo, tecnologias e equipamentos entre os ocorridos, as falhas de engenharia e gestão de riscos são tristes repetições.
A Armadilha da Camada Única
No Therac-25, o intertravamento mecânico foi removido, deixando o software como única barreira. Isso para a época era relativamente comum, pois confiava-se que se o software não falhasse em laboratório, não falharia no campo. No 737, o sistema MCAS (que ajustava o nariz do avião para evitar estol) baseava-se na leitura de apenas um sensor de Ângulo de Ataque, mesmo havendo dois instalados. A engenharia não classificou adequadamente o risco e por isso não foi exigida redundância “física” para certificar o sistema. O MCAS foi tratado como um sistema de ajuste de manobrabilidade, não como um sistema de controle de voo crítico.
O Erro Induzido
Assim como os operadores do Therac-25 recebiam mensagens como "Malfunction 54", que ninguém sabia, mas na verdade indicava que havia sido lançada uma quantidade enorme de radiação sobre os pacientes, os pilotos do 737 não foram devidamente informados sobre a existência do MCAS nos manuais iniciais para evitar custos com novos treinamentos em simulador. Os pilotos lutavam contra o avião sem entender que um software estava ativamente empurrando o nariz para baixo.
Em ambos os casos, a tecnologia desempoderou o humano. O sistema tomou decisões críticas sem fornecer o feedback necessário para que o operador pudesse intervir de forma proativa.
A Ilusão da Evolução
O Therac-25 reutilizou código do Therac-20. O 737 MAX é uma evolução de uma estrutura de 1960, adaptada com motores maiores que mudaram o centro de gravidade da aeronave. Para compensar a mudança física (hardware), usou-se um "remendo" de software (MCAS).
A gestão de risco foi estática. Assumiu-se que, por ser um "737", as premissas de segurança anteriores eram válidas. Através da Engenharia de Segurança Proativa (ESP) poderíamos argumentar que, ao mudar o motor (contexto), o risco deveria ter sido reavaliado do zero, e não tratado como uma "atualização de software" incremental.
Conclusão
A Engenharia de Segurança Proativa nos lembra que a segurança não reside no quão moderno é o código, mas no quão bem compreendemos as interações entre esse código, o mundo físico e quem o opera.
Daniel Moraes Lotto é profissional com mais de 25 anos de experiência em engenharia de manutenção, automação industrial e gestão de projetos, atuando em empresas de grande porte dos setores automotivo, industrial e de infraestrutura. Ao longo de sua carreira, consolidou expertise na implantação de normas regulamentadoras como a NR12, em metodologias de produtividade (TPM, RCM, Lean, Six Sigma) e em projetos de transferência industrial de alta complexidade. Possui formação em Tecnolgia de Automação Industrial pela Fatec de São Bernardo do Campo e Gerenciamento de Projetos pelo Senac São Paulo, além de dezenas de cursos de especialização em suas áreas de atuação.
-----
Comentários
Postar um comentário