Durante anos, a Waymo, de propriedade da Alphabet, tentou se diferenciar de outras empresas autônomas, enfatizando uma cultura de cautela e segurança. Agora, pouco antes Principais lançamentos planejados em todo o paísestá subjacente à falha mais frequente numa das áreas mais sensíveis imagináveis: a zona de jogo.
Em dezembro, a Administração Nacional de Segurança no Trânsito Rodoviário (NHTSA) abriu uma investigação sobre Waymo depois que o maior distrito escolar de Austin relatou pelo menos 19 incidentes em que a empresa de robotáxis não conseguiu parar totalmente os veículos escolares durante a carga e descarga. contra a lei em todos os estados L. A Waymo respondeu rapidamente emitindo um recall voluntário de software e lançando atualizações destinadas a corrigir o problema.
Mas o patch não funciona. Desde a atualização, o Distrito Escolar Independente de Austin (ISD) afirma que ocorreram pelo menos quatro violações adicionais; incluindo um recentemente em 19 de janeiro; com um veículo Waymo filmando na faixa oposta enquanto crianças esperavam para atravessar a rua e pararam em um ponto de ônibus com os braços estendidos. No total, pelo menos 24 violações de segurança envolvendo veículos Waymo e equipamentos escolares em Austin. foram relatados desde o início das aulas em 2015.
Waymo se defendeu, em parte, observando que nenhum dos incidentes com ônibus escolares em Austin resultou em colisões ou ferimentos. Mas esta já não é uma questão estritamente nacional. Na semana passada, Waymo publicou uma postagem no blog reconhecendo que um de seus veículos atingiu um menino do lado de fora de uma escola primária de Santa Monica em 23 de janeiro. Washington Post Como a criança sofreu apenas ferimentos leves, o resultado poderia ter sido muito pior: Waymo diz que o veículo diminuiu a velocidade de 27 km/h para 10 km/h no instante anterior ao impacto.
Especialistas são especializados em segurança de veículos autônomos e tráfego de pedestres, disse ele Beira essas coisas deveriam ser feitas, principalmente com o objetivo de a empresa dirigir mais veículos”.confiantemente assertivo. Na tentativa de se livrar do estereótipo de voando cautelosamente como um pássaro eles estavam em veículos Flagrado jogando com as regras do comércio de longo prazo. Mas tornar os robotáxis mais humanos também parece trazer riscos, herdando inadvertidamente alguns dos nossos hábitos de condução mais perigosos.
“Essas tecnologias ainda estão sendo desenvolvidas e testadas no mundo real, porque há muitas coisas que acontecem no mundo real que são difíceis de prever pelas empresas e engenheiros”, disse um professor da Cornell Tech e especialista em interação humano-robô. Marque você diz ” Beira. “A menos que você tenha alguma noção de tudo o que está acontecendo, é difícil saber o que estamos acontecendo.”
Waymo não respondeu aos repetidos pedidos de comentários. Na quarta-feira, o CEO da Waymo, Mauricio Peña, respondeu às preocupações de segurança levantadas em um comunicado. eles estavam entusiasmados audiência no Senado. Ele disse que a Waymo avalia as conquistas de cada escola e desenvolve soluções, algumas das quais já estão incorporadas em seus programas. Peña também disse que está trabalhando com Austin ISD para “coletar dados sobre diferentes padrões de iluminação e diferentes situações”. Notavelmente, a Waymo não parou de trabalhar nos negócios da escola enquanto a coleta e os testes de dados ocorriam.
Fechamentos de ônibus escolares colocam à prova a lógica dos veículos autônomos
Navegar nos negócios escolares é um dos aspectos mais perigosos da direção, tanto para humanos quanto para robôs. NHTSA 61 mortes atribuídas a veículos que cruzaram ilegalmente autocarros escolares entre 2000 e 2023, quase metade dos quais eram peões com menos de 18 anos. Esse risco é menor com os próprios motoristas de autocarro, que normalmente são licenciados e diligentes, e maior com a natureza caótica e improvisada da situação. Os ônibus costumam estar lotados e as crianças, com crianças, não podem parar quando deveriam atravessar a rua.
“Waymos tem um problema porque todo motorista tem dúvidas sobre as escolas”, disse Ju
Por esse motivo, os motoristas que navegam nos ônibus precisam contar com a experiência e a intuição, além do sólido conjunto de regras que aprenderam na educação para motoristas. O tipo de lógica de bom senso que surge naturalmente para motoristas humanos experientes, diz Wu, é o mais desafiador para carros autônomos.
“São todos esses momentos em que você realmente faz julgamentos, entre outras coisas que deveria fazer”, disse Ju.
A Waymo está realizando um ‘teste beta público’ com pedestres?
A nível técnico, pode haver muitas histórias. De acordo com Missy Cummings, professora da George Mason University e diretora do Mason Center for Autonomy and Robotics, a aparente chave nas questões de segurança dos robotáxis que envolvem a escola de negócios pode estar ligada ao que Waymo descreve da tradicional mudança crescente; aprendizado de máquina modular é enfatizado em maior medida aprendizagem de ponta a pontaA tecnologia é considerada modismo e ainda é incipiente.
Waymo, oficialmente Pois ele diz que usa duas coisas misturadasmas alguns eles acham que o equilíbrio é instável.
Anteriormente, os sistemas de veículos autónomos utilizavam arquitecturas conservadoras e em camadas, com módulos separados responsáveis pela detecção de objectos, pela sua digestão e pela aplicação de regras de segurança específicas, que governavam a forma como o veículo deveria responder. A aprendizagem ponta a ponta, por outro lado, resume grande parte desse processo a um único modelo que reúne todas as entradas dos sensores e toma decisões probabilísticas com base em padrões aprendidos a partir de grandes comportamentos de condução humana. O resultado é algo que pode parecer mais “natural” e humano, embora Cummings argumente que também pode introduzir riscos adicionais, especialmente em cenários de grande visibilidade, como o encerramento de escolas.
Objetos seguros mostram que “todos os conceitos de problemas mudam com a arquitetura”, disse Cummings. “Suspeito que muitas (empresas de robotáxis) farão isso.”
As escolas pediram à Waymo para fazer o adiamento
Seja qual for a causa dos erros, Austin ISD deixou clara a sua posição. Magistrado Ele supostamente pediu a Waymo para parar de fazer coisas de robotáxi nas escolas durante o horário de carga e descarga até que o problema seja resolvido. Mas a Waymo recusou e continuou a operar, uma decisão que os especialistas dizem parecer inesperada e inconsistente com a imagem pública da empresa de promover segurança e cautela.
Não acho que Waymo concordaria”, disse Cummings. “Você está falando apenas de uma hora e meia, 45 minutos pela manhã e 45 minutos à tarde, então não é tão sério que você não faça isso.”
Philip Koopmanpelo Professor Carnegie Mellon e AV. esse sentido ressoa em uma edição recente de seu boletim informativo Substack Sistema de Segurança Independente.
“Waymo faz uma escolha explícita de apostar na vida das crianças”, escreve Koopman. “Eles dizem que são as probabilidades, mas não fazem o jogo.”
E embora a maioria dos problemas relacionados às escolas ocorra em Austin, isso provavelmente se deve em parte ao atraso da cidade decorando cada um dos braços para parar as câmeras. Por outras palavras, coisas semelhantes poderiam acontecer noutros lugares, mas estão simplesmente escondidas. Austin ISD não respondeu aos nossos pedidos de comentários. (Eixos anunciado (Esse problema também ocorre em Atlanta.)
O incidente do ônibus escolar, quando crianças eram perseguidas na Califórnia, causou polêmica três investigações federais tantos meses. Embora o ambiente regulatório de AV no Texas seja improvável, casos como o da Waymo podem colocar a Waymo em risco de revogar sua licença de operação. Agora, como investigadores aparentemente vá para Austin com o homem para explorar a sociedade, os robotáxis continuam a trabalhar na zona escolar. No mínimo, a abordagem da EQUEST poderá fazer com que outros municípios pensem duas vezes antes de aceitarem os carros da empresa nas suas ruas.
Waymo trouxe isso para ele, disse Cummings. “Se eles tivessem feito a coisa responsável e optado por ficar fora da zona escolar até que fosse decidido, não teriam esta grande investigação (pública), porque a grande investigação foi divulgada.”
