這可能是我最短的博客。人工智能有很多名稱(chēng)，包括機(jī)器學(xué)習(xí)。識(shí)別手寫(xiě)字的系統(tǒng)不被稱(chēng)為AI，而是光學(xué)字符識(shí)別系統(tǒng)。另一方面，深度學(xué)習(xí)也是一種AI技術(shù)。AI可以是許多系統(tǒng)的一部分，但其本身并不是目的。

不管怎么樣，下面是通用功能安全標(biāo)準(zhǔn)IEC 61508-3中的重要指南。

在任何大于SIL 1的SIL級(jí)別，不推薦使用AI。對(duì)于SIL 1，既不推薦或也不說(shuō)不推薦。對(duì)于指南，不推薦的定義是在 IEC 61508-3:2010 的附錄A中給出。

反對(duì)AI的一個(gè)主要意見(jiàn)是它過(guò)于復(fù)雜。功能安全喜歡簡(jiǎn)單。引自《可靠系統(tǒng)的軟件》一書(shū)。我搜索了這本書(shū)，但找不到這句引言。我搜索了一下，在《代碼完成》一書(shū)中找到了，出自C. A. R. Hoare——“軟件設(shè)計(jì)有兩種方法：一種是使其非常簡(jiǎn)單，因而顯然沒(méi)有缺陷；另一種是使其非常復(fù)雜，因而沒(méi)有明顯缺陷”。我明白他們的觀點(diǎn)，深度學(xué)習(xí)算法可能需要讓汽車(chē)撞樹(shù)5萬(wàn)次之后，才會(huì)發(fā)現(xiàn)這是一個(gè)壞主意。而騎三輪車(chē)的小孩一般只需撞一兩次就會(huì)得出結(jié)論。非確定性對(duì)安全性是難以接受的。從上面的書(shū)中再引一句話——“開(kāi)發(fā)人員必須熟悉最佳實(shí)踐，只有理由充分時(shí)才能偏離這些實(shí)踐”。

在汽車(chē)功能安全標(biāo)準(zhǔn)ISO 26262中，我沒(méi)有發(fā)現(xiàn)任何地方提到AI，因此理論上關(guān)于汽車(chē)的指南要回到IEC 61508標(biāo)準(zhǔn)。然而，新的汽車(chē)技術(shù)中似乎廣泛使用AI。我還沒(méi)有閱讀ISO 26262修訂版2全文（預(yù)計(jì)2018年發(fā)布），但我必須與ADI公司負(fù)責(zé)汽車(chē)功能安全的同事討論此問(wèn)題。也許AI只提供駕駛輔助，而不是用于安全應(yīng)用。也許它會(huì)被新的SOTIF標(biāo)準(zhǔn)（預(yù)期功能的安全性）以某種方式覆蓋。我認(rèn)為AI的好處可能變得非常大，上述指南將不得不改變。事實(shí)上，IEC 61508-7:2010 C.3.9條款提出了這樣的愿望：“在一個(gè)系統(tǒng)的不同通道中，監(jiān)督行動(dòng)可由基于人工智能(AI)的系統(tǒng)提供非常有效的支持”。

今天的視頻選擇有很多可能性。在我寫(xiě)這篇文章的那一周，發(fā)生了SpaceX重型火箭發(fā)射和側(cè)推進(jìn)器著陸等事件。Elon Musk是積極警告AI存在危險(xiǎn)的人之一（通過(guò)Google可搜索到一長(zhǎng)串相關(guān)文章）。我可能應(yīng)該選擇《2001太空漫游》之類(lèi)的東西，但我選擇了《紅矮星號(hào)》中的對(duì)講機(jī)。也許不是Elon所警告的，但誰(shuí)知道呢，或許他確實(shí)看過(guò)《紅矮星號(hào)》呢？畢竟他顯然看過(guò)《銀河系漫游指南》。