什麼是演算法?

通俗而言,演算法是一個定義明確的計算過程,可以一些值或一組值作為輸入並產生一些值或一組值作為輸出。因此演算法就是將輸入轉為輸出的一系列計算步驟。

—Thomas H. Cormen,Chales E. Leiserson,演算法入門第三版

簡而言之,演算法就是可完成特定任務的一系列步驟,它應該具備三大特徵:

  1. 有限
  2. 指令明確
  3. 有效

以下是 Marcos Otero 推薦的十大演算法 (Top 10 algorithms that rule the world):

1、合併排序、快速排序及堆排序(Merge Sort, Quick Sort and Heap Sort)

最好的排序演算法跟需求密切相關,很難評判。但是從使用上說,這三種的使用頻率更高。

合併排序由John von Neumann於 1945 年發明。這是一種基於比較的排序演算法,採用分而治之的辦法解決問題,其階是 O(n^2)。

快速排序可採用原地分割方法,也可採用分而治之演算法。這不是一種穩定的排序演算法,但對於基於 RAM(記憶體)的陣列排序來說非常有效。

堆排序採用優先順序佇列來減少資料中的搜尋時間。該演算法也是原地演算法,並非穩定排序。

這些排序演算法相對於以前的冒泡排序演算法等有了巨大改進,實際上我們今天的資料採擷、人工智慧、連結分析及包括 web 在內的大多數電腦工具都要感謝它們。

2、傅立葉變換與快速傅立葉變換(Fourier Transform and Fast Fourier Transform)

我們的整個數位世界都使用這兩個簡單但非常強大的演算法,其作用是將訊號從時域轉為頻域或者反之。實際上,你看得到這篇文章得感謝這些演算法。

網際網路、你的 WiFi、智慧型手機、電話、電腦、路由器、衛星,幾乎所有內建有電腦的東西都會以各種方式使用這兩演算法。如果不研究這些演算法,你就拿不到電子、計算或通信方面的學位。

3、Dijkstra(Dijkstra’s algorithm)演算法

Dijkstra是一種圖譜搜尋演算法。許多問題都可以建模為圖譜,然後利用 Dijkstra 尋找兩個節點之間的最短路徑。如果沒有 Dijkstra 演算法,網際網路的運作效率必將大大降低。雖然今天我們已經有了更好的尋找最短路徑的解決方案,但出於穩定性的要求,Dijkstra 演算法仍然被很多系統使用。

4、RSA加密演算法(RSA algorithm)

如果沒有密碼術和網路安全,網際網路就不會像今天一樣重要,因為電子商務和電子交易需要這些技術來確保交易安全。而RSA演算法是最重要的密碼學演算法之一。該演算法由同名公司的創始人(Ron Rivest、Adi Shamir 和 Leonard Adleman)開發,它讓密碼學普及到了千家萬戶並奠定了密碼術的應用基礎。RSA 要解決的問題既簡單又複雜:如何在獨立平台與最終用戶之間共用公開金鑰。其解決方案是加密。

RSA 加密的基礎是一個十分簡單的數論事實:將兩個大質數相乘十分容易,但是想要對其乘積進行因式分解卻極其困難,因此可以將乘積公開作為加密金鑰。但在分散式運算和量子電腦理論日趨成熟的今天,RSA 加密安全性受到了挑戰。

5、安全雜湊演算法(SHA)

這個實際上並不算是演算法,而是由美國國家標準技術研究所開發的一系列密碼雜湊函數。但是這系列函數是全世界運作的基石。應用程式商店,電子郵件、反病毒、瀏覽器等在使用SHA系列函數,SHA 函數可用來確定下載的東西是否自己想要的東西,還是說遭遇了中間人攻擊或釣魚攻擊。

6、質因數分解 (Integer factorization)

這是一個在電腦領域使用頻繁的數學演算法。如果沒有這一演算法,密碼技術就會變得不安全得多。質因數分解是用來將一個合數分解成一系列質因數的一系列步驟。質因數分解可被視為是 FNP 問題(FNP 是難以解決的典型 NP 問題的擴展)。

許多密碼協定均基於難以分解的大型合數或相關問題。比方說前面提到的 RSA 問題。如果有演算法能夠有效分解任意數位,那麼就會使得基於 RSA 的公開金鑰密碼系統陷入不安全的境地。

而量子電腦的誕生則讓此問題的解決變得容易,從而也打開了一個全新的領域,可利用量子世界的屬性來讓系統更加安全。

7、連結分析 (Link Analysis)

在網路時代,不同實體間關係的分析至關重要。從搜尋引擎和社群網路到行銷分析工具,每個人都想找出網路的真正結構。

連結分析無疑是公眾對演算法的最大困惑與迷思之一。其問題在於進行連結分析有不同的方式,而增加一些特徵就會令每一演算法略有不同(從而使得演算法受到專利保護),但基本上這些演算法都是類似的。

連結分析演算法首先由 Gabriel Pinski 和 Francis Narin 在 1976 年發明。其背後的思路很簡單,即把圖譜以矩陣的形式表示,從而轉為特徵值問題,而特徵值有助於瞭解圖譜結構及每個節點的相對重要性。

Google 的 PageRank,Facebook 展示新聞源,Google+,Facebook 朋友推薦,LinkedIn 工作及連絡人推薦,Netflix 與 Hulu 的電影推薦,YouTube 影片推薦等均使用了連結分析演算法。雖然每個都有不同的目標和參數,但其背後的數學是一樣的。

8、比例積分微分演算法 (Proportional Integral Derivative Algorithm)

PID - A brief introduction (Youtube)

如果你用過飛機、汽車、衛星服務或手機網路,如果你在工廠待過或者見過機器人,那麼你已經見識過這一PID演算法的作用了。

該演算法利用了控制迴路機制來讓期望輸出訊號與實際輸出訊號之間的錯誤降到最小。只要需要訊號處理或需要電子系統來控制自動化的機械、水力或熱力系統就要用到它。

因此可以說如果沒有這一演算法,人類的現代文明將不復存在。

9、資料壓縮演算法

資料壓縮演算法無疑是非常重要的,因為幾乎在所有的結構中都要用到。除了最明顯的壓縮文件以外,網頁下載時也會壓縮,影片遊戲、影片、音樂、資料存儲、雲端計算、資料庫等等也都要使用壓縮演算法。可以說幾乎所有應用都要使用壓縮演算法。壓縮演算法讓系統更有效成本更低,但是要想確定哪一個最重要卻很困難,因為應用不同,使用的壓縮演算法從 zip 到 mp3、JPEG 或 MPEG-2 各異。

10、亂數產生演算法

很多應用都需要亂數。像 interlink connection,密碼系統、影片遊戲、人工智慧、最佳化、問題的初始條件,金融等都需要生成亂數。但實際上目前我們並沒有「真正」的亂數產生器,儘管有一些偽亂數產生器也是非常有效的。

-------------------------------------------------------------------------------

演算法統治世界

Automate This: How Algorithms Came to Rule Our World

  • 作者: 克里斯多夫‧史坦能
  • 原文作者:Christopher Steiner

  創業家暨暢銷作家。為Aisle50 (Y Combinator)的共同創辦人與CEO。曾擔任富比士(Forbes)及芝加哥論壇報(Chicago Tribune)的科技寫手。曾著有暢銷書《每加崙20美元》($20 Per Gallon)。

目錄

前言
一、華爾街,第一塊骨牌
最早,華爾街這個滿是利潤的地方吸引了最厲害的數學家與工程師。這些工程師以演算法改變了所有的交易方式,把每毫分的利潤全部吸走,並且幾乎沒有風險。從這片骨牌開始,演算法開始迅速改變人類生活……

二、人類與演算法簡史
花拉子米、萊布尼茲、高斯、巴斯卡、白努利、尤拉、布林,這些數學家的智慧,逐漸累積成今日演算法的核心。要初步認識今日演算法的成就,必須認識這些大師。

三、演算法排行榜
演算法最難想像涉入的領域是什麼?人類創意世界?錯了,這些領域早就被侵入了。有自動作曲的演算法、有告訴你哪一部電影會暢銷的演算法、有指導你如何修改歌曲的演算法。當演算法也能夠做出最人性的創作時,人類的特殊價值在哪裡?

四、演算法的祕密捷徑:硬體的速度關鍵
除了數學本身,演算法的另一個關鍵是速度,僅僅零點幾秒的差異,就會影響華爾街上某一筆交易能不能被搶下來。為了爭取這一點點時間,美國人大興土木,從芝加哥到紐約挖出一條關鍵管線。

五、系統:跟你遊戲、對決或賭博
遊戲,原本就是演算法擅長的項目。從下棋開始,演算法的智慧一步一步進步,現在,撲克牌這種需要觀察表情、吹牛的複雜比賽,也難不倒它。

六、呼叫演算法醫師
醫學界是演算法快速成長的地方。腎臟配對、影像醫學的掃描、藥師演算法,以及所有的基因掃描分析,在演算法的幫助下,所有診斷都變得更快更準確。

七、人類分類
在美國軍方的發展下,經由問卷來判斷人的個性成為一門學問。而在演算法與大數據的合作下,這門學問開始在各種地方運用。當你撥去某個客服中心,很可能就先經過演算法的檢查,讓他們確定派一個最對你胃口的客服人員來與你交談,如此將省去大筆費用。

八、華爾街遇上矽谷
公元2000年的時候,演算法在股市交易佔不到10%,到了2008年則已經佔到60%。可想而知,金融業在這段時間努力吸收大量的數學家與工程師,讓華爾街的獲利、薪資與規模到達高峰。

九、華爾街的損失是其他人的獲利
2008年後,金融危機讓最頂尖的數學家紛紛離開華爾街,走往矽谷,加入Google等這樣的大公司,或者其他新創公司。這股趨勢,讓演算法全力攻進各種日常生活,大幅改變生活樣貌。

十、結論:未來屬於演算法及其創造者
凱因斯曾預言一種因為自動化而造成的大量失業,事實上,這個狀況正在發生。每個領域都有可能被演算法取代,醫師、律師、作家都在名單上。

http://www.books.com.tw/products/0010643022

--------------------------------------------------------------------------------

改變世界的九大演算法:讓今日電腦無所不能的最強概念

Nine Algorithms That Changed the Future: The Ingenious Ideas That Drive Today’s Computers

九大演算法

當然,在書中並不是像上面那樣子,一行一行的列出解法,而是藉由簡單有趣的例子,以及一些簡化的數字運算來為我們點出這幾個演算法的精髓部份。在書中提出了八個與我們生活切身相關的演算法與一個如果存在將會很了不起的演算法來討論電腦能力的極限。其中現存的八種如下:

搜尋引擎的索引

搜尋引擎的索引,是幫助你我在網路上正確地找到資料不可或缺的工具,我們要怎麼樣才能夠做有效的搜尋讓我們從網路海中撈出一根針?

網頁排序

當我們搜尋關鍵字,出來了這麼多的頁面,我要怎麼樣才能判斷哪個頁面是真正重要的?才能優先將它列出來?

公鑰加密

我在亞馬遜上輸入我的信用卡買東西,我要怎麼才能夠確定我的資料只有亞馬遜才看得懂?

錯誤更正碼

網路更正碼被應用在網路之間封包的傳遞,以及 CD、DVD還有硬碟上。祝要是用來確認我所讀取以及接收到的資料是否正確。舉例而言:假設我電話傳錯一碼,那我整個傳送就沒有意義了。

辨識模式

辨識模式被廣泛應用在人工智能上,像是語音便是服務客戶的自動電話,網路上按照個人興趣推薦商品以及大數據的處理,辨識模式都占有一席之地。

資料壓縮

我們總打開或者是將檔案做成過 zip 或 rar 檔吧? 圖片以及文字是怎麼樣縮小與放大都與資料壓縮有關。

資料庫

銀行的資料庫要怎麼樣才能確保我的交易是正確的?我會不會在交易的時候因為銀行的伺服器當機然後錢沒了?我要怎麼樣才能夠讓資料可以更快的儲存與被讀取都跟這部分有關

數位簽章

一般而言我們並不會接觸到數位簽章,因為我們的電腦會自動對數位簽章做檢驗,通常發生在下載軟體的時候。

這些演算法所包含的範圍有:網際網路搜尋、網路安全、資料傳輸的正確性、大數據、以及資料儲存與處理等。每項都與我們的生活緊扣,除非我們完全不使用電腦,否則你我都會多少接觸到上述演算法所涉及的領域。

公鑰加密

在書中,令人印象深刻的一段是:公鑰加密的部分;利用以【調漆】為例,讓大家理解公鑰的基本理論。問題如下:
假設今天有我、你、他三個人以及有很多不同的顏料;每個人都把自己的顏料,藏密在自己專屬的小房間。
在所有溝通都必須公開透明的情況下,我該怎麼樣才能夠在不讓他人知道的情況下,混合出和你相同的顏色(公鑰加密)?

演算法如下:

  1. 我們每個人選出自己的個人色
  2. 任意選出一個公共色
  3. 我與你將自己的顏色與公共色做混合,並公開供存取
  4. 我該怎麼樣才能夠在不讓他人知道的情況下,混合出和你相同的顏色?【解答】 (詳下)

但在這裡有兩個重要的假設,其中之一是顏色非常的多,所以他無法知道我選的個人色是什麼;再來,混合的顏色是無法重新分離而得到原本你選的顏色。

【解答】只要你我都個把對方的公共混合色,帶回自己的房間加上自己的個人色即可

 

作者: 約翰.麥考米克

  • 原文作者:John MacCormick
  • 約翰.麥考米克John MacCormick
      他是資訊科學領 域傑出的研究學者與教授。他在牛津大學取得電腦視像(computer vision)博士學位,曾經在惠普(HP)與微軟(Microsoft)的研究實驗室工作。目前於賓州的狄金森學院(Dickinson College)擔任數學與資訊科學教授。
  •  
  • 目錄

    推薦序 當演算法改變世界,認識演算法就是義務 / 鄭國威
    前言
    第1章 引言:讓今日電腦威力無窮的神奇概念
    演算法:天才就在彈指間
    偉大演算法的條件是什麼?
    這些偉大的演算法為什麼重要?

    第2章 搜尋引擎的索引:配對與排序
    AltaVista:第一個網路規模的配對演算法
    古早時代的陽春式索引
    文字─位置技法
    排序與相鄰
    元詞技法
    光是標註索引和配對技法還不夠

    第3章 網頁排序:讓谷歌起飛的技術
    超連結技法
    權威性技法
    隨機漫遊技法
    網頁排序的實作

    第4章 公鑰加密:用明信片寄送祕密
    用共同的祕密來加密
    設定一個公開的共同祕密
    實務上的公鑰加密

    第5章 錯誤更正碼:錯誤可以自己修正!
    偵錯與改正的必要性
    重複的技法
    冗餘技法
    校驗技法
    定點目標技法
    真實世界中的糾錯與偵錯

    第6章 模式辨識:從經驗中學習
    問題是什麼?
    最近鄰居技法
    二十個問題技法:決策樹
    神經網路
    模式辨識:過去、現在、未來

    第7章 資料壓縮:白吃的午餐
    無損失的壓縮:終極的白吃午餐
    有損失的壓縮:不是白吃的午餐,但很划算
    壓縮演算法的由來

    第8章 資料庫:追求一致性
    交易與待辦事項清單技法
    複製資料庫所用的「準備然後承諾技法」
    關聯式資料庫與虛擬表格技法
    資料庫的人性面

    第9章 數位簽章:這軟體到底是誰寫的?
    數位簽章究竟用來做什麼?
    書面簽字
    上鎖的簽字
    利用乘法鎖來簽字
    利用指數型鎖來簽字
    數位簽章的實務
    解決矛盾

    第10章 什麼是可計算的?
    程式錯誤、毀壞和軟體的可靠度
    反證法
    用於分析其他程式的程式
    有些程式不可能存在
    尋找當機的程式不可能存在
    電腦的極限給我們的啟示

    第11章 結論:未來會如何呢?
    頗具潛力的演算法
    偉大的演算法可能失去光彩嗎?
    我們學到了什麼?
    旅程的結束
  • http://www.books.com.tw/products/0010644994?loc=asb_001
  •  
  • 【出處】http://www.techbang.com/posts/18438-ruled-the-worlds-top-ten-algorithms

 

創作者介紹
創作者 The Dance of Disorder (Fluctuations of Entropy) 的頭像
Jason

The Dance of Disorder (Fluctuations of Entropy)

Jason 發表在 痞客邦 留言(0) 人氣( 0 )