gpt1到gpt4用了多久？(2016年Science十大年度科技人物？)

1、gpt1到gpt4用了多久？

用了五年時(shí)間，2018年6月發(fā)布了gpt1，2023年發(fā)布了gpt4。

GPT到底是什么？隨著1956年“達(dá)特茅斯會議”上創(chuàng)造“人工智能”這個(gè)術(shù)語，全球迎來了AI技術(shù)發(fā)展階段。在2016年谷歌DeepMind的“阿爾法狗”（AlphaGo）擊敗了韓國圍棋冠軍李世乭，以及機(jī)器學(xué)習(xí)的誕生，AI算法、算力、數(shù)據(jù)“三駕馬車”獲得了突破性技術(shù)進(jìn)展。

但問題在于，機(jī)器學(xué)習(xí)利用循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）——序列數(shù)據(jù)或時(shí)序數(shù)據(jù)的人工神經(jīng)網(wǎng)絡(luò)來處理文字，使得文字按順序一個(gè)個(gè)處理，沒辦法同時(shí)進(jìn)行大量學(xué)習(xí)。

因此2017年，谷歌團(tuán)隊(duì)發(fā)布論文“AttentionIsAllYouNeed”，提出了一個(gè)新的學(xué)習(xí)框架Transformer，以解決此問題。它拋棄了傳統(tǒng)的CNN（卷積神經(jīng)網(wǎng)絡(luò)）和RNN，使整個(gè)網(wǎng)絡(luò)結(jié)構(gòu)完全由Attention機(jī)制組成，從而讓機(jī)器同時(shí)學(xué)大量的文字，訓(xùn)練速度效率大大提升。

簡單來說，只需要LLM（大型語言模型）、大型參數(shù)量和算力算法訓(xùn)練，以Attention機(jī)制就可實(shí)現(xiàn)快速的機(jī)器學(xué)習(xí)能力。因此，無論是ChatGPT的T，還是谷歌預(yù)訓(xùn)練語言模型BERT的T，均是Transformer的意思。

基于Transformer框架，OpenAI進(jìn)行了新的研究學(xué)習(xí)GPT，全稱為GenerativePre-trainedTransformer（生成式預(yù)訓(xùn)練框架），其利用無監(jiān)督學(xué)習(xí)技術(shù)，通過大量數(shù)據(jù)來形成快速反饋。

2018年6月，OpenAI發(fā)布第一代GPT，2019年11月發(fā)布GPT-2，2021年發(fā)布了1750億參數(shù)量的GPT-3，不僅可以更好地答題、翻譯、寫文章，還帶有一些數(shù)學(xué)計(jì)算的能力等，而ChatGPT是微調(diào)之后的GPT-3.5消費(fèi)級應(yīng)用。

2023年3月15日，最新版本GPT-4正式發(fā)布，它是一個(gè)大型多模態(tài)模型，能接受圖像和文本輸入，再輸出正確的文本回復(fù)。OpenAI表示，團(tuán)隊(duì)花了6個(gè)月的時(shí)間使用對抗性測試程序和ChatGPT的經(jīng)驗(yàn)教訓(xùn)，對GPT-4進(jìn)行迭代調(diào)整，從而在真實(shí)性、可控性等方面取得了有史以來最好的結(jié)果。

4年

1. GPT-1：2018年，OpenAI發(fā)布了第一個(gè)版本的GPT模型，它是一個(gè)單向的語言模型，能夠生成具有連貫性和邏輯性的文本，如新聞報(bào)道、小說等。GPT-1使用了12個(gè)Transformer編碼器，并在大規(guī)模的語料庫上進(jìn)行了預(yù)訓(xùn)練。

2. GPT-2：2019年，OpenAI發(fā)布了GPT-2模型，這是一個(gè)更大、更強(qiáng)大的模型。GPT-2使用了48個(gè)Transformer編碼器，并在更大規(guī)模的語料庫上進(jìn)行了預(yù)訓(xùn)練。GPT-2能夠生成更加逼真、多樣化的文本，如新聞報(bào)道、小說等。

3. GPT-3：2020年，OpenAI發(fā)布了目前最大、最強(qiáng)大的GPT模型，即GPT-3。GPT-3使用了1750億個(gè)參數(shù)，并在大規(guī)模的語料庫上進(jìn)行了預(yù)訓(xùn)練。GPT-3能夠生成更加逼真、多樣化、更具人類風(fēng)格的文本，如小說、詩歌、新聞報(bào)道、電子郵件等。

總之，GPT模型的發(fā)展歷程不斷推動(dòng)了自然語言處理技術(shù)的發(fā)展，并為自然語言生成、問答系統(tǒng)、智能對話等領(lǐng)域帶來了更為先進(jìn)的技術(shù)。

gpt1到gpt4用了數(shù)年的時(shí)間。因?yàn)間pt是通過深度學(xué)習(xí)的方式進(jìn)行訓(xùn)練的，而深度學(xué)習(xí)需要大量的數(shù)據(jù)和時(shí)間來進(jìn)行訓(xùn)練，所以每個(gè)版本的gpt都需要花費(fèi)數(shù)年的時(shí)間來完成。此外，每個(gè)版本的gpt都需要對之前版本進(jìn)行改進(jìn)和增強(qiáng)，以達(dá)到更好的效果和性能。目前最新版本的gpt，也就是gpt-3，在2019年6月份發(fā)布了預(yù)覽版，并在2020年6月份正式發(fā)布。它是目前最強(qiáng)大和最復(fù)雜的自然語言處理模型之一，可以用于語音識別、翻譯和生成語言響應(yīng)。未來將有更多的版本和改進(jìn)，可以預(yù)見gpt的應(yīng)用領(lǐng)域?qū)兊迷絹碓綇V泛。

2、2016年Science十大年度科技人物？

引力波的發(fā)現(xiàn)是2016年最大的科學(xué)新聞之一，激光干涉引力波天文臺的加布里埃拉·岡薩雷斯是這一項(xiàng)目的核心人物。

天文學(xué)家吉耶姆·安格拉達(dá)·埃斯屈德入選原因是他在距離太陽最近的恒星系統(tǒng)內(nèi)發(fā)現(xiàn)了一顆地球大小的、繞比鄰星公轉(zhuǎn)的類地行星。

德米什·哈薩比斯則是人工智能公司“深度思維”的共同創(chuàng)始人之一，他們開發(fā)的計(jì)算機(jī)程序AlphaGo今年擊敗了頂尖的人類專業(yè)圍棋選手，凸顯了人工智能快速擴(kuò)張的潛力。

塞莉納·M·圖爾希因?yàn)榻⑵鹫ú《九c小頭癥之間的聯(lián)系而入選。

生育專家張進(jìn)在宣布成功使用線粒體置換技術(shù)混合了三個(gè)人的DNA讓一名健康男嬰誕生后，“收獲”了無數(shù)的批評與贊譽(yù)。

凱文·埃斯韋爾特幫助發(fā)明的一項(xiàng)技術(shù)，可使用CRISPR-Cas9基因編輯來創(chuàng)建一個(gè)基因驅(qū)動(dòng)，讓基因比正常情況下更快地在一個(gè)種群中擴(kuò)散。

大氣化學(xué)家古斯·凡德爾，他為各國停止生產(chǎn)和使用氫氟碳化合物的國際協(xié)議作出了努力。

特里·修斯拉響了大堡礁發(fā)生災(zāi)難性珊瑚白化的警報(bào)。

伊蓮娜·朗提升了人們對于少數(shù)性別和性取向科學(xué)家所面臨困境和歧視的意識。

亞歷山德拉·埃爾巴克彥創(chuàng)建的網(wǎng)站通過在線提供約6000萬份論文，挑戰(zhàn)了傳統(tǒng)科學(xué)出版行業(yè)。

3、fish圍棋主播是誰？

別名飛神，湖南長沙人。

熊貓TV簽約主播。小飛作為fish隊(duì)長，是團(tuán)隊(duì)的主要指揮者，BP穩(wěn)健、頭腦冷靜、報(bào)點(diǎn)及時(shí)，隊(duì)友不需要在補(bǔ)刀以外分心留意對手其他線miss的對自己有威脅的gank點(diǎn)。雖然在fish戰(zhàn)隊(duì)主打5號輔助位，其實(shí)小飛五個(gè)位置都打的很好。在2016年“創(chuàng)世傳說天才少年杯solo賽”中獲得亞軍。