Apesar de quase bater no Waymo, ainda estou otimista em relação aos carros autônomos

Os carros sem motorista da Waymo circulam por Londres há meses, mas ainda não transportam passageiros e estão prontos para que um humano se sente e assuma o controle, se necessário. Cada vez que os encontrava, eles pareciam cautelosos e previsíveis. Mas recentemente quase tive um acidente.

Enquanto voltava do trabalho de bicicleta para casa, estava circulando em uma rotatória quando Waymo tentou estacionar na minha frente. Eu tinha prioridade e ele parecia vir direto para mim, sem nenhum sinal de desaceleração, até que parou de repente.

Não foi a coisa mais assustadora que já experimentei em uma bicicleta, nem mesmo a pior coisa que aconteceu naquele dia. Não me senti em perigo sério. Eu vi isso acontecendo e estava pronto. O incidente se destacou entre as dezenas de momentos tensos que ocorrem em cada trajeto. Isso porque a pessoa ao volante era uma IA, não um humano.

Por curiosidade, enviei a Waymo a hora e o local e perguntei o que aconteceu. Um porta-voz da empresa explicou: “O ADS (Automated Driving System) detectou uma bicicleta se aproximando pela direita enquanto viajava perto da borda externa da rotatória”. “O motorista de segurança presumiu que ele assumiu o controle manual do veículo para acionar os freios na entrada da rotatória”. Isso significa que a IA estava prestes a parar, então o humano interveio.

Perguntei à Waymo com que frequência os humanos têm que fazer isso em Londres, mas a empresa disse que não possui esses dados e prefere não confiar neles como métrica. Também perguntamos o que aconteceu para confundir a IA. Afinal, estou pedalando de forma totalmente legal e minha bicicleta é amarela neon, então não tenho desculpa de verdade. E também perguntamos o que seria feito para melhorar o algoritmo como resultado. Não houve resposta.

Vários outros ciclistas de Londres me disseram que Waymo se comportava bem perto deles, mas um deles se lembrou de um incidente em que uma placa perto de obras rodoviárias que dizia “faixas estreitas não ultrapassam ciclistas” de alguma forma levou Waymo a fazer exatamente isso. ainda Simon Munk A Campanha de Ciclismo de Londres afirma que, em geral, estes carros agem com muita cautela perto dos ciclistas.

Escrevi sobre meus sentimentos em relação aos motoristas de IA no ano passado, depois de saber que as empresas de tecnologia os estavam trazendo para Londres. Meu pensamento na época era: não seria melhor estar cercado por motoristas de IA imprevisíveis e imperfeitos do que um motorista humano cansado, distraído e irritado? Já fui derrubado da minha bicicleta por pessoas muitas vezes. Não acho que o que aconteceu com Waymo me fez mudar de ideia. Então, novamente, alguém fez isso uma vez Navegue pelas fitas policiais bloqueando estradasPorém, a empresa anunciou na época que estava sendo administrada por uma determinada pessoa.

Não confio totalmente na IA para dirigir carros ao meu redor, mas também não confio totalmente nos humanos para fazer isso. Mas o que quero dizer é que a IA pode continuar a aprender de forma relativamente rápida. Além disso, os sensores que informam estes modelos sobre o mundo e os ajudam a detectar perigos serão mais precisos e poderosos. A IA pode ou não ser o menor dos dois males hoje, mas acredito que poderá ser no futuro.

Munk disse que os carros autônomos têm grandes benefícios e desvantagens potenciais para ciclistas e pedestres, dizendo que poderiam tornar as estradas mais seguras e previsíveis, ou poderiam ameaçar alienar ainda mais os usuários vulneráveis ​​das estradas. E embora a Waymo esteja indo bem em São Francisco, Londres está “em um nível diferente” em termos de complexidade e perturbação, disse ele. Munk se lembra com orgulho de ter me mostrado um vídeo de um de seus carros passando com sucesso por um caótico cruzamento de São Francisco, onde a empresa testou sua tecnologia. Mas ele vai para o trabalho em pelo menos seis carros piores.

Munk também teme que, uma vez que esses carros estejam funcionando, as atualizações de software subsequentes possam mudar seu comportamento, mesmo que inicialmente pareçam seguros. Os carros sem condutor não podem simplesmente ser certificados como seguros. O monitoramento próximo e contínuo é necessário para manter as empresas honestas e proteger o público.

Outros jogadores de carros sem motorista continuarão a vir para Londres – Os táxis sem motorista da Wayve podem chegar nos próximos mesespode ou não adotar uma abordagem cautelosa. Assim como um motorista pode ser mais seguro que outro, uma IA pode ser mais segura que outra. E assim como um motorista seguro pode ficar cansado, irritado ou desatento, a IA pode ser ajustada livremente para se comportar da maneira que as empresas desejam. Por exemplo, no ano passado, Waymo Tornou o carro mais marcanteComo resultado, eles acabaram se comportando como “taxistas agressivos de Nova York”. Embora isso tenha sido projetado para evitar congestionamentos de tráfego, muitos moradores de São Francisco ficaram alarmados.

Vimos até sinais preocupantes de “soluções” para a segurança rodoviária, transferindo descaradamente as questões de segurança para os peões, como sugerir que todos os peões usem coletes especiais para facilitar a vida dos carros autónomos.

“Daqui a cinco (ou) dez anos, quando essas coisas se tornarem a norma,[essas empresas]pensarão: ‘Você sabe, nossos passageiros estão se movendo mais devagar, então por que não acelerar um pouco (e) cortar alguns atalhos?’”, pergunta Munk. “Ou isso acontecerá com um serviço concorrente chegando e dizendo: ‘Somos 20% mais rápidos e 20% mais baratos que o Waymos’, tornando-o 20% mais rápido e 20% mais agressivo?” A realidade é que teremos que ser cautelosos. ”