本周，一個人行道送貨機器人穿越黃色警戒線並進入洛杉磯一個犯罪現場的視頻在網上瘋傳，在Twitter上積累超過65萬的瀏覽量，並引發關於該技術是否已準備好進入黃金時期的討論。事實證明，機器人的錯誤，至少在這個案例中，是由人類造成的。
該事件的視頻是由洛杉磯警察監督賬戶Film the Police LA的所有者William Gude拍攝並發佈在Twitter上的。上午10點左右， Gude在好萊塢高中發生疑似校園槍擊事件的地區，他在視頻中拍到機器人在街角徘徊，看起來很困惑，直到有人揭開膠帶，讓機器人繼續在犯罪現場行駛。
Uber分拆出來的Serve Robotics公司的一位代表告訴TechCrunch，機器人的自動駕駛系統並沒有決定進入犯罪現場。這是一個正在遠程操作機器人的人類操作員的選擇。
該公司的送貨機器人擁有所謂的 Level 4自主性，這意味著它們可以在某些條件下自行駕駛，而不需要人類來接管。自5月以來，Serve公司一直在該地區與Uber Eats公司試行其機器人。
Serve機器人公司有一項政策，要求人類操作員在每個路口遠程監控並協助其機器人。如果機器人遇到障礙物，如施工區或倒下的樹，並且無法在30秒內弄清如何繞過它，人類操作員也將遠程控制。
在這種情況下，剛剛完成一次送貨的機器人走到十字路口，根據公司的內部操作政策，人類操作員接管它。起初，人類操作員在黃色警戒帶前停下來。但當旁觀者舉起膠帶，顯然是"揮手示意它通過"時，人類操作員決定繼續前進，Serve Robotics首席執行官Ali Kashani告訴TechCrunch。
Kashani說：“機器人永遠不會（自己）穿越。隻是有很多系統來確保它永遠不會越過，直到人類發出指令。”
他補充說，這裡的判斷錯誤是，有人決定真的繼續穿越。 Kashani說，不管是什麼原因，這不應該發生。他補充說，Serve已經從該事件中提取數據，並正在為人類和人工智能制定一套新的協議，以防止將來發生這種情況。
幾個明顯的步驟將是確保員工遵循標準操作程序（或SOP），其中包括適當的培訓和制定新的規則，如果有人試圖揮舞機器人通過路障，該怎麼做。
但Kashani說，也有辦法利用軟件來幫助避免這種情況再次發生。他說，軟件可以用來幫助人們做出更好的決定，或者完全避免一個區域。例如，該公司可以與當地執法部門合作，向機器人發送有關警察事件的最新信息，以便它可以繞過這些地區。另一個選擇是讓軟件具有識別執法部門的能力，然後提醒人類決策者，並提醒他們註意當地的法律。
隨著機器人的進步和擴大其操作領域，這些經驗將是至關重要的。“有趣的是，機器人做正確的事情；它停止，” Kashani說。“所以這真的回到給人們足夠的背景來做出好的決定，直到我們有足夠的信心，我們不需要人們來做這些決定。”
Serve機器人公司的機器人還沒有達到這一點。然而， Kashani告訴TechCrunch，這些機器人正變得越來越獨立，通常都是自己操作，但有兩個例外：十字路口和某種形式的封鎖。
Kashani說，本周發生的情景與許多人對人工智能的看法相反。“我認為，一般來說，人們的說法基本上是在邊緣案例中非常出色，然後人工智能就會犯錯，或者也許還沒有為現實世界做好準備。有趣的是，我們正在學習一種相反的東西，那就是，我們發現人們犯很多錯誤，我們需要更多地依賴人工智能。”