Una de las escenas más emblemáticas de la película 2001: Odisea del espacio de Stanley Kubrick es aquella en la que David Bowman está “negociando” con la computadora HAL 9000 para abrir la puerta de la nave espacial. Hal dice: “Lo siento, Dave. Me temo que no puedo hacerlo”. Cualquiera que haya discutido con una “ayuda” activada por voz probablemente pueda identificarse con Dave.
La automatización es inevitable. Como dice el colectivo Borg en Star Trek: La nueva generación, “la resistencia es inútil”. Parece que tenemos una necesidad colectiva de reemplazar los procesos humanos por otros automatizados, a veces sin ninguna lógica.
Durante años me he preguntado por qué mi lavadora tiene que tener conexión a Internet. Como si de repente me fuera a dar cuenta de que tengo que lavarla mientras estoy fuera de casa. El fabricante no explica cómo se supone que la ropa sucia se introduce automáticamente en la lavadora, ni cómo se carga automáticamente el detergente en la máquina, ni cómo la ropa limpia y húmeda se introduce sola en la secadora. Pero ten por seguro que todas esas funciones que faltan se solucionarán con actualizaciones de software inalámbricas en la próxima oportunidad.
Una empresa ingeniosa ha solucionado uno de mis problemas al presentar una lavadora que también seca la ropa. Todavía no estoy seguro de cómo entra el detergente o cómo se limpia el filtro de pelusa desde la aplicación de mi teléfono, pero estoy seguro de que están trabajando en eso.
A finales de los años 1990, asistí a más de una de las presentaciones de marketing de empresas que pretendían ser puntocom y que ofrecían lo mejor desde el pan de molde en soluciones de software automatizado. La broma habitual era contar cuántas veces se pronunciaría la palabra "absolutamente" al responder a cualquier pregunta del tipo "¿puede hacer esto o aquello?". Por supuesto, no podía. Yo lo sabía y ellos lo sabían, pero no se puede vender algo sin prometer el mundo, ¿no? Los primeros síntomas del futuro paradigma del "finge hasta que lo consigas".
Me sorprende que ahora los retiros de productos de automoción parezcan ir acompañados casi instantáneamente de comunicados de prensa sobre cómo se resolverá el problema con actualizaciones de software inalámbricas. Esto parece ocurrir independientemente de si los problemas se originan en el hardware o el software, o incluso antes de que se comprendan las causas profundas de los problemas.
Sigo pensando en Dave y HAL, allí en el borde del espacio, negociando, mientras los controladores de tierra con un retraso de señal de 43 minutos con la Tierra intentan irrelevantemente resolver el problema.
Uno de los mayores desafíos que enfrentan los operadores de vehículos es comprender qué es lo que los ingenieros de software realmente incorporaron al software. Apuesto a que incluso hay ingenieros de software que se lo preguntan también, ya que el software ahora está entrando en millones de líneas de código, algunas de las cuales en realidad fueron creadas por sistemas de IA, y pocos, si es que hay alguno, saben realmente cómo funciona todo como sistema.
La razón por la que recibes actualizaciones de software casi constantes en tu teléfono, computadora e innumerables dispositivos es que las empresas ya no pueden probar el 100% de las permutaciones de situaciones del mundo real, por lo que ponen en tus manos la tarea de hacer sus pruebas en vivo. Este es el equivalente en software a una frase que se dice a menudo en las películas: “Dispárales a todos y deja que Dios los arregle”.
Cuando usted nació, ¿su certificado de nacimiento le indicaba que se convertiría en probador de software de por vida?
Las investigaciones realizadas durante más de 80 años sobre la automatización de aeronaves han demostrado que, por muy bien entrenados que estén los pilotos, a menudo pueden “sorprenderse” al no saber cómo reaccionará el avión en una situación determinada. A veces, los detalles del software ni siquiera se discuten con los pilotos. Otras veces, el software resulta inadecuado ante la combinación inesperada de fallas. Resulta que los ingenieros de software no son omniscientes. Imagínese.
El aspecto más aterrador de la automatización es la creencia aparentemente ineludible de los seres humanos en que, de algún modo, una computadora y su software están por encima de cualquier reproche en comparación con una persona. El mundo parece felizmente ignorante de que los seres humanos diseñaron y desarrollaron los sistemas que crearon el hardware y el software. Es como si los billetes de dólar debieran tener impresa la frase “En las computadoras confiamos”.
Me maravilla la creencia de que las actualizaciones de software pueden solucionar todos los males. Me maravilla la fe en que un vehículo automatizado siempre hará lo correcto. Me maravilla que todos los accidentes, ahora y en el futuro, serán únicamente responsabilidad de conductores humanos descuidados, porque, claramente, las computadoras no pueden cometer errores. La palabra clave aquí es Marvel, la editorial de novelas gráficas, o lo que la gente mayor ignorante tontamente llama libros de historietas.
Los conductores tendrán que saber qué han incorporado los ingenieros de software para controlar los vehículos. Tendrán que saber qué puede hacer el vehículo (y, lo que es más importante, qué no puede hacer) en cada situación. Al igual que ocurre con la automatización de las aeronaves y los pilotos, el enorme vacío que existe entre la formación y el mundo real inesperado exigirá pensar sobre la marcha. Llenar ese vacío de capacidad con intuición y experiencia cuando el software y el hardware resulten incapaces de manejar la situación.
He dicho que los vehículos automatizados reducirán la tasa de accidentes, pero los accidentes que ocurran probablemente serán catastróficos.
Calculo que el 90% o más de los vuelos de las aerolíneas se gestionarán sin problemas después de 80 años de maduración de la automatización. Tal vez incluso el 99%.
Todavía quiero un piloto hábil y capaz a bordo cuando suceden cosas y estoy en ese único vuelo entre 100 que tiene una serie de eventos "fuera de lo normal".
El impulso para automatizar el transporte por carretera tiene un gran potencial, pero los ingenieros de software son personas y trabajan para empresas que necesitan obtener ganancias. Las desventajas y las incógnitas son reales. El software nunca es, como dijo Mary Poppins, "prácticamente perfecto en todos los sentidos". Dave y HAL son una lección profética para los desarrolladores de camiones automatizados y sus equipos de marketing para que aparquen su arrogancia. Los humanos, por imperfectos que sean, son necesarios para lidiar con lo inesperado. Si no en su camión, entonces en el auto de al lado.
Artículo original proporcionado por Commercial Carrier Journal.
