Robot versus Humanidade

E se um dia o software bloquear o nosso frigorífico porque sabe que estamos a fazer uma dieta rigorosa? Ou se bloquear a Internet e o telefone para não podermos encomendar uma pizza? Ou se monitorizar os nossos dejectos procurando consumos suspeitos? Já há sistemas que bloqueiam a ignição da viatura porque detectaram álcool no sangue do condutor. Julgo que estaremos todos de acordo quanto à utilidade destes sistemas mas, imaginemos que o condutor, apesar de alcoolizado, ainda está em condições de conduzir e precisa de transportar urgentemente alguém que está em perigo de vida. Quem vai ter a última palavra? O software ou o humano? A transformação digital levanta questões éticas que não sendo acauteladas irão pôr em causa o direito ao livre arbítrio do ser humano. Estas decisões não poderão estar entregues apenas à ética dos programadores de software e dos investidores.