Os coches autónomos adoitan loitar con situacións habituais para os condutores humanos. Cando se enfrontan a zonas de construción, autobuses escolares, cortes de luz ou peóns que se comportan mal, estes vehículos adoitan comportarse de forma imprevisible, provocando choques ou conxelacións, causando interrupcións significativas no tráfico local e, posiblemente, impedindo que os primeiros respondedores fagan o seu traballo. Debido a que os coches autónomos non poden xestionar con éxito estes problemas rutineiros, as empresas que se conducen autónomos usan canguros humanos para supervisalos remotamente e intervir cando sexa necesario.
Esta idea -os humanos supervisando os vehículos autónomos desde a distancia- non é nova. O exército estadounidense leva facéndoo desde os anos 80 con vehículos aéreos non tripulados (UAV). Neses primeiros anos, os militares sufriron numerosos accidentes debido a estacións de control mal deseñadas, falta de adestramento e atrasos de comunicación.
Como piloto de caza da Mariña na década de 1990, fun un dos primeiros investigadores en examinar como mellorar as interfaces de supervisión remota dos UAV. Os miles de horas que eu e outros levamos traballando e observando estes sistemas xeraron un profundo coñecemento sobre como xestionar de forma segura as operacións remotas. Con revelacións recentes de que as operacións remotas de coches autónomos comerciais de EE. UU. son xestionadas por operadores en Filipinas, está claro que as empresas de condución autónoma non aprenderon as leccións militares tan gañadas que promoverían un uso máis seguro dos coches autónomos na actualidade.
Mentres estaba estacionado no Pacífico Occidental durante a Guerra do Golfo, pasei unha cantidade significativa de tempo nos centros de operacións aéreas, aprendendo como se planificaban, implementaban e despois se replanificaban os ataques militares cando o plan orixinal se desmoronaba inevitablemente. Despois de obter o meu doutoramento, aproveitei esta experiencia para comezar a investigación sobre o control remoto dos UAV para as tres ramas do exército estadounidense. Sentado ombreiro con ombreiro en pequenos remolques con operadores que voaban UAV en exercicios locais ou a 4000 millas de distancia, o meu traballo consistía en coñecer os puntos de dor para os operadores remotos e identificar posibles melloras mentres realizaban o control de supervisión dos UAV que poderían estar voando en medio mundo.
O control de supervisión refírese a situacións nas que os humanos supervisan e apoian sistemas autónomos, intervindo cando sexa necesario. Para os coches autónomos, este descoido pode adoptar varias formas. O primeiro é a teleoperación, onde un humano controla remotamente a velocidade e a dirección do coche desde lonxe. Os operadores sentan nunha consola cun volante e pedais, semellante a un simulador de carreiras. Debido a que este método depende do control en tempo real, é moi sensible aos atrasos de comunicación.
A segunda forma de control de supervisión é a asistencia remota. En lugar de conducir o coche en tempo real, un humano dá unha orientación de nivel superior. Por exemplo, un operador pode facer clic nunha ruta dun mapa (chamada colocación de “migas de pan”) para mostrar ao coche a onde debe ir ou interpretar información que a IA non pode comprender, como os sinais man dun traballador da construción. Este método tolera máis atraso que a teleoperación pero aínda é sensible ao tempo.
Cinco leccións das operacións de drones militares
Ao longo de 35 anos de operacións con UAV, o exército atopouse constantemente con cinco grandes desafíos durante as operacións con drons que proporcionan valiosas leccións para os coches autónomos.
Latencia
A latencia (retrasos no envío e recepción de información debido á distancia ou á mala calidade da rede) é o único desafío máis importante para o control remoto do vehículo. Os humanos tamén teñen o seu propio atraso incorporado: o atraso neuromuscular. Mesmo en condicións perfectas, a xente non pode responder de forma fiable á nova información en menos de 200-500 milisegundos. Nas operacións remotas, onde xa existe un atraso de comunicación, isto dificulta aínda máis o control en tempo real.
Nas primeiras operacións con drones, os pilotos da Forza Aérea dos Estados Unidos en Las Vegas (o principal centro de operacións de UAV dos Estados Unidos) intentaron despegar e aterrar drons en Oriente Medio mediante a teleoperación. Con polo menos un atraso de dous segundos entre o mando e a resposta, a taxa de accidentes foi 16 veces superior á dos avións de combate que realizaban as mesmas misións. Os militares cambiaron aos operadores locais de liña de visión e, finalmente, a despegues e aterraxes totalmente automatizados. Cando entrevistei aos pilotos destes UAV, todos subliñaron o difícil que era controlar a aeronave cun importante desfase de tempo.
As empresas de automóbiles autónomos normalmente confían nas redes de teléfonos móbiles para entregar ordes. Estas redes non son fiables nas cidades e son propensas a atrasos. Esta é unha das razóns polas que moitas empresas prefiren a asistencia remota en lugar da teleoperación completa. Pero mesmo a asistencia remota pode saír mal. Nun incidente, un operador de Waymo instruíu a un coche para virar á esquerda cando un semáforo apareceu de cor amarela no canal de vídeo remoto, pero a latencia da rede fixo que a luz xa se puxera vermella no mundo real. Despois de trasladar o seu centro de operacións remotas dos Estados Unidos a Filipinas, a latencia de Waymo aumentou aínda máis. É imperativo que o control non sexa tan remoto, tanto para resolver o problema de latencia como para aumentar a supervisión das vulnerabilidades de seguridade.
Deseño de estacións de traballo
O mal deseño da interface provocou moitos accidentes con drons. O exército aprendeu do xeito difícil que os controis confusos, as pantallas difíciles de ler e os modos de autonomía pouco claros poden ter consecuencias desastrosas. Dependendo da plataforma específica de UAV, a FAA atribuíu entre o 20% e o 100% dos accidentes de UAV do Exército e da Forza Aérea causados por erros humanos ata 2004 a un mal deseño da interface.
Fallos de UAV (1986-2004) causados por problemas de factores humanos, incluíndo unha interface deficiente e un deseño de procedementos. Estas dúas categorías non suman o 100% porque ambos os factores poderían estar presentes nun accidente.
| Factores humanos | Deseño de interfaces | Deseño de procedementos | |
|---|---|---|---|
| Cazador do Exército | 47 % | 20 % | 20 % |
| Sombra do exército | 21 % | 80 % | 40 % |
| Predador da Forza Aérea | 67 % | 38 % | 75 % |
| Forza Aérea Global Hawk | 33 % | 100 % | 0 % |
Moitos accidentes de avións UAV foron causados por sistemas de control humano deficientes. Nun caso, colocáronse botóns nos controladores de xeito que era relativamente fácil apagar accidentalmente o motor en lugar de disparar un mísil. Este mal deseño provocou accidentes nos que os operadores remotos apagaron inadvertidamente o motor en lugar de lanzar un mísil.
A industria da condución autónoma revela indicios de problemas comparables. Algunhas lanzadeiras autónomas usan controladores de xogos dispoñibles, que, aínda que son baratos, nunca foron deseñados para o control de vehículos. O uso fóra de etiqueta deste tipo de controladores pode provocar confusión no modo, que foi un factor nun accidente recente do transbordador. Necesítanse probas significativas de humanos no circuito para evitar estes problemas, non só antes da implantación do sistema, senón tamén despois de importantes actualizacións de software.
Carga de traballo do operador
As misións de drones normalmente inclúen longos períodos de vixilancia e recollida de información, que ás veces rematan cun ataque de mísiles. Estas misións ás veces poden durar días; por exemplo, mentres os militares agardan a que a persoa de interese saia dun edificio. Como resultado, os operadores remotos experimentan cambios extremos na carga de traballo: ás veces intensidade esmagadora, ás veces aburrimento esmagador. Ambas as dúas condicións poden provocar erros.
Cando os operadores teleoperan drons, a carga de traballo é alta e a fatiga pode aparecer rapidamente. Pero cando a autonomía a bordo xestiona a maior parte do traballo, os operadores poden aburrirse, estar satisfeitos e estar menos alerta. Este patrón está ben documentado na investigación de UAV.
É probable que os operadores de automóbiles autónomos experimenten problemas similares para tarefas que van desde interpretar sinais confusos ata axudar aos coches a escapar dos camiños sen saída. En escenarios sinxelos, os operadores poden estar aburridos; en emerxencias, como conducir a unha zona de inundación ou responder durante un corte de luz en toda a cidade, poden quedar desbordados rapidamente.
O exército tentou durante anos que unha persoa supervise moitos drons á vez, porque é moito máis rendible. Non obstante, os custos de cambio cognitivo (recuperar a conciencia dunha situación despois de cambiar o control entre drons) provocan picos de carga de traballo e alto estrés. Iso, unido a interfaces cada vez máis complexas e atrasos de comunicación, fixeron isto extremadamente difícil.
As compañías de vehículos autónomos probablemente se enfronten aos mesmos bloqueos. Terán que modelar as cargas de traballo dos operadores e poder predecir de forma fiable cal debería ser o persoal e cantos vehículos pode supervisar de forma eficaz unha soa persoa, especialmente durante as operacións de emerxencia. Se cada coche autónomo necesita un humano dedicado para prestar moita atención, tales operacións xa non serían rendibles.
Formación
Os primeiros programas de drones carecían de requisitos formais de adestramento, con programas de adestramento deseñados por pilotos para pilotos. Desafortunadamente, a supervisión dun avión non tripulado é máis parecido ao control do tráfico aéreo que a de voar unha aeronave, polo que os militares adoitan colocar aos operadores de avións no tripulados en roles críticos cunha preparación inadecuada. Isto provocou moitos accidentes. Só anos máis tarde, os militares realizaron unha análise adecuada dos coñecementos, habilidades e habilidades necesarias para realizar operacións remotas seguras e cambiaron o seu programa de adestramento.
As empresas de condución autónoma non comparten publicamente os seus estándares de formación e actualmente ningunha normativa regula as cualificacións dos operadores remotos. A seguridade na estrada depende en gran medida destes operadores, aínda que se sabe moi pouco sobre como se seleccionan ou se ensinan. Se os despachadores de aviación comercial están obrigados a ter unha formación formal supervisada pola FAA, que son moi similares aos operadores remotos de condución autónoma, deberiamos que as empresas comerciais de condución autónoma teñan estándares similares.
Planificación de continxencias
A aviación dispón de protocolos sólidos para as emerxencias, incluíndo procedementos predefinidos para a comunicación perdida, estacións de control en terra de reserva e comportamentos a bordo altamente fiables cando falla a autonomía. No exército, os drons poden voar eles mesmos a zonas seguras ou aterrar de forma autónoma se se perde o contacto. Os sistemas están deseñados tendo en conta as ameazas de ciberseguridade, como a suplantación de GPS.
Os coches autónomos parecen estar moito menos preparados. O apagón de San Francisco de 2025 deixou os vehículos Waymo conxelados nos carrís de tráfico, bloqueando os primeiros respondedores e creando perigos. Suponse que estes vehículos realizan “manobras de risco mínimo”, como tirar cara a un lado, pero moitos deles non o fixeron. Isto suxire lagoas na planificación de continxencia e no deseño básico de seguridade.
A historia das operacións de drones militares ofrece leccións cruciais para a industria do automóbil autónomo. Décadas de experiencia demostran que a supervisión remota require unha latencia extremadamente baixa, estacións de control deseñadas coidadosamente, carga de traballo do operador manexable, programas de adestramento rigorosos e ben deseñados e unha forte planificación de continxencia.
As empresas de condución autónoma parecen estar repetindo moitos dos primeiros erros cometidos nos programas de drones. As operacións remotas trátanse como unha función de apoio e non como un sistema de seguridade de misión crítica. Pero mentres a IA loite coa incerteza, que será o caso no futuro previsible, a supervisión humana remota seguirá sendo esencial. Os militares aprenderon estas leccións a través de dolorosas probas e erros, aínda que a comunidade de autónomos parece ignoralas. A industria da condución autónoma ten a oportunidade e a responsabilidade de aprender dos nosos erros nos escenarios de combate antes de que prexudique aos usuarios da estrada en todas partes.
Un documento completo sobre este tema presentarase na reunión de 2026 IEEE International Conference on Human-Machine Systems (ICHMS) en Singapur en xullo.
Do teu sitio artigos
Artigos relacionados na web
