知名物理學家史蒂芬‧霍金，曾經撰文提出一項警告：「人工智慧的發展可能導致人類滅亡。」許多科幻作品，例如「魔鬼終結者」、「機械公敵」等，也反映出人類對這類危機的恐懼。 一個多世紀以來，人類對人工智慧的熱衷從未衰減。但不是所有科學家都認為人工智慧已經接近實現。有人形容說，那就好像為蚯蚓講解愛因斯坦的相對論，怎麼可能讓牠明白呢？而且，人類對「智慧」的本質也了解得太少，總得先弄懂智慧是什麼，才可能設計出人工裝置來模擬它。

智慧是什麼？根據辭典的定義：智慧是分析、判斷、創造、思考等能力的總稱，更詳細的說，還包括感知、聯想、情緒、文化……等等，每一個項目都是學術上的大題目，若要仔細定義，是個浩大的工程，更別說設計程式來讓電腦模擬了。 而現在的電腦所能做到的，也僅有輸入、記憶、輸出、邏輯和計算等項目，和智慧的定義相距甚遠。這種說法聽來很有道理，但即使如此，也有許多科學家樂觀看待人工智慧誕生的可能性。首先，如果用操作型的定義來定義智慧，在這個範圍之內，人工智慧是可能的。 法國哲學家狄德羅曾說：「如果有人發現一隻鸚鵡可以回答一切問題，我會毫不猶豫地宣布牠有智慧。」這是個很生動的說法，不過還不夠嚴謹。直到電腦原理的奠基人之一艾倫‧圖靈，他的「圖靈測試」提供了一個簡化的定義：一個裝置或生物是否具有智能，取決於它能不能像人一樣和人類交談。當然在他的論文中，對於如何操作還有更嚴謹的敘述。 某些研究團隊宣稱，他們的電腦軟體已經通過了圖靈測試，但這是否表示人工智慧已經誕生？仍有爭議。一個強而有力的觀點是，隨著科技的進步，人工智慧的定義也不斷在演進，早就超越了圖靈的理解。

不過圖靈當年的論文，還是相當具有前瞻性，現在的智慧型手機，包括Siri軟體等應用，透過跟人類對話，提供各種資訊，某種程度上，也印證了圖靈對電腦科技發展的預測。 此外，科學家也已經證明，智慧比我們想像得複雜太多。例如，最先進的電腦運算能力，早已經超過小小昆蟲的腦，然而，要在擺滿障礙物的房間行走、覓食和尋找藏身處，察覺和躲避危險，昆蟲可以輕易做到，機器人卻很難做到！另外，人工智慧是否可能威脅人類，取決於它能否發展出「自由意志」，違背人類下達的指令，這點也應該還很遙遠。不過，霍金警告我們要對此預做提防，仍然是個正確的建議。