MIT ve Motional, Otonom Araçların İnsanlara Ne Gördüğünü ve Nedenini Anlatması İçin Yeni Bir Yapay Zeka Katmanı Geliştirdi

Amerika Birleşik Devletleri’nde otonom araçların regülasyonları gevşetilirken, bu teknolojide insanlarla daha uyumlu ve güvenli bir etkileşim sağlamak isteyen araştırmacılar, otonom bir aracın insan sürücüye anlık olarak ne gördüğünü ve neden böyle hareket ettiğini açıklayabilmesini sağlayan yeni bir sistem geliştirdi. Massachusetts Teknoloji Enstitüsü (MIT) ile otonom araç teknolojisi şirketi Motional, Nature dergisinde yayımladıkları çalışmada, yapay zekanın kararlarını insanlara aktaracak bir ” kavram sarmalayıcı ağı” (Concept-Wrapper Network, CW-Net) tasarladı.

Çalışmanın temel fikri, otonom sistemin eylemlerini gerçek zamanlı olarak insanlara aktarmak suretiyle hem sürücünün dikkatini korumak hem de geliştiricilerin yapay zekanın farklı ortamlarda nasıl tepki verdiğini değerlendirmesini sağlamaktır. Araştırmacıların vurguladığı en çarpıcı sonuç, test sırasında bir aracın durma nedeninin sürücünün tahmininden farklı olduğu bir durumun ortaya çıkmasıydı: sürücü aracın bir trafik konisi nedeniyle durduğunu düşünüyor, ancak sistem “durdurulmuş araç yaklaşılıyor” şeklinde farklı bir değerlendirme yapıyordu.

Kendi Kendine Çeviren Bir Yapay Zeka

MIT ve Motional’ın oluşturduğu CW-Net, 130 milyon örnek sahneden eğitilmiş bir yapay zeka algoritması olarak tasarlandı. Her sahne birden fazla etiketli kavram içeriyor ve sistem yönleri (sol, sağ, düz), hız durumları (durdurma, yavaşlatma) ve kesişim, trafik ışığı, yaya, takip edilen nesne gibi öğeleri tanımayı öğretiliyor. Bu ağ, otonom aracın makine öğrenimi sistemine takılarak eylemlerini “çeviri” biçiminde insanlara aktarabiliyor.

İnsan sürücüye gerçek zamanlı geri bildirim verilirse, sürücü otonom sistemin ortamdaki tepkilerini daha iyi anlamak için daha dikkatli hale gelebilir ve bu da sistemin davranışlarının geliştirilmesi için değerli geri bildirim sağlar.

MIT ve Motional araştırmacıları

Gerçek dünya testlerinde, ağ entegre edilmiş bir otonom araç bir trafik konisi önünde durdu. Araştırmacıların aktardığına göre sürücü koninin durma nedeni olduğunu düşünüyor, ancak aracın “durdurulmuş araç yaklaşılıyor” şeklinde farklı bir değerlendirme yaptığını söyledi. Bu durum geliştiriciler için düzeltilecek bir ayar noktası oluşturuyor ve aynı zamanda sürücünün “beklentisini yaratan nedene” dair farkındalığını artırıyor. Başka bir testte araştırmacılar aracın bisikletlilerle nasıl etkileşime gireceğini inceledi; sistem bisikletlileri tespit etmede zorlanırken sürücü bu tekrarlayan hatayı fark etti ve aracın hızını ve yönünü ayarlayarak bir durumu önlemeyi başardı.

İnsanların Bu Teknolojiye Karşı Kaygısını Azaltabilir mi?

Bugünkü serbest dolaşımlı otonom araçlarda yolcuların çoğu sadece yolculuğun parçası olarak yer alıyor. Bu tür geri bildirim, sürücülerin aniden zamanlanan duraklamaları ve hata anlarını daha iyi anlamasını sağlayabilir. Araştırmacıların, bu teknolojiye karşı tedirgin olan sürücüler için makinenin ne yaptığını açıklayıcı biçimde ifade etmesinin belki de bu teknoloji etrafındaki kaygıyı azaltabileceğini belirtmesi dikkat çekici.

CW-Net’in teorik olarak elden boş otonom sürüş sistemlerini kullanan sürücülere de fayda sağlayabileceği öne sürüldü. GM’nin Super Cruise, Ford’un BlueCruise ve Tesla’nın Autopilot gibi sistemler sürüşün bir kısmını otomatikleştiriyor, ancak insan sürücünün hâlâ olaylara dikkatli ve bilinçli olması gerekiyor. Sistem insanla konuşuyorsa dikkat dağılacak, bu da bu sistemler aktifken dikkatini koruyakta zorlanan sürücülerin görevde kalmasına yardımcı olabilecek.

Diğer Laboratuvarların Kendiliğinden Araçlara Konuşması

MIT ve Motional’ın çalışması, otonom sürüşü geliştirmeye yönelik tek çaba değil. New York Üniversitesi Tandon Mühendislik Fakültesi’ndeki araştırmalar ve UCLA’nın Mobility Lab’ı, otonom araçların birbirleriyle konuşmasını sağlayarak çevre bilgilerini genişletmesini hedefliyor. NYU’daki proje sorumlusu ve profesör Yong Liu, “Manhattan’da yalnızca sürüş yapmış bir araç artık Brooklyn’deki yol koşullarını, oraya hiç gitmemiş olsa bile diğer araçlardan öğrenebilir. Bu da her aracın kendisi karşılaşmamış durumlara daha hazır ve daha akıllı olmasını sağlar” ifadelerini kullandı.

UCLA’nın çalışmalarında ise insan kaynaklı kör noktaları azaltmaya yönelik bir yaklaşım öne çıkıyor. Bir aracın bir kesişime yaklaşırken bir ağaç insanı gizleyebileceği bir senaryo örnek olarak veriliyor; aynı kesişime başka bir yönden yaklaşan araç, ilk araca orada bir insan olduğunu bildirebilir ve bu potansiyel tehlikeyi fark edebilir.

Yapay zeka öğrenme modellerinin gerçek zamanlı olarak bilgiyi nasıl yorumladığını anlamak, hem sürücülerin bu “sihirli” teknolojiye daha rahat yaklaşmasını hem de insanlara arka uçta potansiyel olarak düzeltilebilecek gerçek zamanlı hataları göstermesini sağlayabilir. Bu bağlamda, otonom araçların fren ve direksiyon gibi temel bileşenlerden arındırılması, bu sistemler açık yollarda daha öngörülebilir olduğuna dair kanıtlanana kadar ciddi biçimde yeniden değerlendirilmeli. Ancak bu da regülasyon gerektiriyor ve mevcut rejimde bu konunun yakında masaya konmayacağı görünüyor. En azından bilim insanlarının sistemi daha iyi hale getirmeye çalışması var.

ABD Ulaştırma Bakanı Sean Duffy’nin otonom araçların regülasyonlarını gevşeterek bu teknolojinin daha hızlı ve daha dağınık biçimde Amerikan yollarına yayılmasına izin vermeye çalıştığı bağlamında, araştırmacıların insanlarla daha uyumlu ve güvenli bir etkileşim için bu teknolojiyi geliştirmeye çalışması, regülasyon tartışmalarının yanı sıra teknolojinin olgunlaşması açısından da önem taşıyor.