Line揭露HyperCLOVA發展架構，由通用超大規模模型和專精小模型兩類模型作為核心引擎，來驅動前端AI資料處理系統Explorer和NLP開發工具Studio。（圖片來源／Line）
在2021年開發者大會上，Line揭露了一款超大語言模型HyperCLOVA，宣布要以這個模型，發展一系列企業級的自然語言處理（NLP）服務，包括用來快速打造NLP應用程式的Studio，以及用來處理NLP訓練資料的Explorer，甚至還有一套AI Filter來過濾模型輸入和輸出值，替企業把關產出品質。
擁有820億參數，語音助理、開放式對話、標語生成都能做
這不是HyperCLOVA首次亮相。早在今年5月，Line母公司Naver就在自家AI大會上揭露HyperCLOVA，號稱韓文版GPT-3，用2,040億個參數訓練而成，比GPT-3的1,750億參數還要多。幾個月後的現在，經過Naver和Line共同改良，HyperCLOVA再次現身重量級大會，不同的是，Line揭露的HyperCLOVA懂的語言更多，還更有完整的產品生態系藍圖，以及更多的實用案例。
比如，大會現場，Line AI執行長砂金信一郎就親自示範以HyperCLOVA優化的虛擬YouTuber絆愛，來與真人即時問答互動，就連能自動打電話訂位的虛擬助理AiCall，也由HyperCLOVA驅動。甚至，Line NLP團隊經理Toshinori Sato秀出一段自己與HyperCLOVA聊天機器人的對話，對話角色包括他自己和擬人化的商品色鉛筆，當他詢問色鉛筆「你是什麼顏色」時，色鉛筆回答「我是紅色」，當他問「你喜歡什麼顏色」時，它說「藍色，因為藍天和海洋很美麗，不是嗎？」這個簡單的示範，點出了HyperCLOVA作為商品聊天機器人的應用潛力，企業可用來開發專屬機器人，回覆顧客對商品的各種問題。
這款HyperCLOVA具有820億個參數，是大型多語言模型，正處於整體發展藍圖的第三階段。這代表，HyperCLOVA已走過只精通日文、規模達130億參數的第一階段，也經過390億參數的多語言模型第二階段。而且，HyperCLOVA在第二階段，就與BERT大型日文模型表現相當，準確度只差1.65（85.03對86.68）。明年，HyperCLOVA還要從第三階段邁入最後階段，不只要達到2,040億參數規模，還要成為超大規模（Hyper-scale）模型。
自建語料庫3原則透露商品化野心，用小樣本學習保有通用力
要訓練如此龐大的HyperCLOVA，得先建立一套語料庫。Toshinori Sato點出，Line收集語料有3個原則，第一是不從Line任何對話服務中取得資料（包括Line社群功能OpenChat），再來是確保語料多樣性，最後是建立語料庫子集，如此才能將語料庫用於Line以外的服務。這3個原則，也凸顯Line要以HyperCLOVA發展AI產品的決心。
在這些原則下，他們以NLP經典開源預訓練模型BERT的2019年資料集為語料庫基礎，再以爬蟲方式收集Line搜尋的文字資料，同時購買外部資料，並確保這些資料來自重要的網站，讓模型學習各種日文表達方式。Toshinori Sato強調，Line團隊特別注重個資，語料庫中任何與個資相關的訊息，都會刪除。
經過一年多努力，這個語料庫目前累積到1.8TB大，擁有100億個樣本，Token數量達到5,000億個。雖然Line未透露太多HyperCLOVA的模型架構細節，但可以看出，有別於直接拿BERT來微調下游任務的NLP圈常見作法，Line重新打造一套屬於自己的大型預訓練模型。Toshinori Sato表示，BERT雖然只需依使用者需求，用特定任務資料集來簡單微調下游任務（如翻譯、問答），就能享有SOTA模型準確度，但，使用者還是得按不同任務，建立專屬小型資料集來微調BERT，這種監督式學習方法，可能讓BERT喪失通用能力。
為保有通用力，設計HyperCLOVA時，Line就決定要讓它可透過小樣本來學習（Few-shot learning），甚至是單樣本（One-shot）和零樣本（Zero-shot）。意思是，在小樣本的情境中，開發者只需給定一個任務描述和少數示例，HyperCLOVA就能以這些樣本來學習解題。在單樣本學習中，開發者給定任務描述和一個示例，模型即可學習，甚至在零樣本中，只需提供任務描述即可，不需任何示例。這麼做，HyperCLOVA可根據簡短的描述或少量樣本來解決各種任務，更貼近一般企業的需求。
這就是Line的HyperCLOVA計畫。他們希望，靠HyperCLOVA一個大型模型，就能利用多種資料，來解決多種任務，扭轉過去「一種資料來源-一個模型-一個任務」的窘境。Toshinori Sato舉例，過去，要解決搜尋任務，只能用搜尋模型來分析網頁資料，產出所需的搜尋結果。或是，要用購買紀錄進行商品推薦和顧客關係維護時，得分別打造兩套模型，一套用來推薦，另一套用來維持顧客關係，即便兩者的資料來源都是一樣的，還是得用兩套模型分析。
重新改造貨櫃屋基礎設計有哪些呢
金誠貨櫃實業社能把原有貨櫃屋改裝成任何尺寸大小及多咖貨櫃合併，加裝流梯、櫃頂加蓋鐵皮屋頂、加裝鐵架等、除鏽噴漆，顏色皆依客戶指定。
臭氧機的滅菌效果如何?
臭氧的性質活潑，是強力的氧化劑。臭氧的標準還原電位2.07比次氯酸1.49更高，而且臭氧不會產生致癌的三鹵甲烷類消毒副產物。臭氧不會殘留，會自動回復成氧氣是優良的消毒劑，因此臭氧像是優良的工匠，工作時很有效率，離開時也不拖泥帶水，收拾的乾乾淨淨，沒有殘留副產物。
哪裡買的到省力省空間，方便攜帶的購物推車
多功能爬梯購物推車/手推車/爬梯車/推車/購物車！
?
示波器探測執行效能最佳化的8大秘訣
示波器是一種能夠顯示電壓訊號動態波形的電子測量儀器。它能夠將時變的電壓訊號，轉換為時間域上的曲線，原來不可見的電氣訊號，就此轉換為在二維平面上直觀可見光訊號，因此能夠分析電氣訊號的時域性質。
「我們希望用一個大型模型來處理各類資料、執行各種任務，」他舉例，這個超大模型要能分析網頁資料、購買記錄、交易紀錄、語音輸入，並用這些資料來執行搜尋、問答、商品推薦、需求預測、對話等任務，至少先解決這些任務共通的NLP問題。這個方向，定下了HyperCLOVA的發展基調。
當引擎驅動兩大應用系統，還要打造企業通用AI生態系
圖片來源_Line
大會上一張HyperCLOVA的發展架構圖，清楚點出未來產品路線。在這張架構圖的最底層，是驅動一切服務的資料層，包括各類大數據和開放資料。在資料層之上是模型層，也是HyperCLOVA模型所在處。這層包括了兩類重要模型，分別是通用的超大規模模型，以及專精各類任務的小型模型，包括日文模型、多語言模型、影像模型等。
模型層之上是基礎架構層，包含模型訓練與推論，再往上就是HyperCLOVA所驅動的前端應用系統，包括Explorer和Studio。其中，Explorer專門用來處理AI訓練資料，比如文字資料生成、文字資料分類，讓使用者用來打造AI模型。特別的是，Explorer中還搭配一套AI Filter控管機制，來把關模型的輸入值與輸出值，同時確保HyperCLOVA不被濫用。Studio則是更應用導向的NLP開發工具，它有三大功能，包括用來開發NLP應用的沙盒環境Playground，以及資料生成和強化功能，還有NLP模型微調功能。這些功能都以HyperCLOVA驅動，目前最成熟的功能就屬Playground。
Playground可以怎麼用呢？Toshinori Sato在會場上，展示一款以Playground打造的廣告文宣生成應用程式。在這款應用程式中，使用者可輸入自家產品名稱、一句摘要（如產品成分、產地）和說明，系統就會產生一段產品文宣，使用者可調整溫度（Temperator）、重複排除（Repeatition Penalty）和最大詞彙量（Maximum Tokens）等參數，來調整文宣內容。
HyperCLOVA Studio中的Playground有如沙盒環境，使用者可用來開發各類NLP應用，比如打造一個快速生成產品廣告文宣的應用程式，只要輸入產品名稱和簡短摘要，就能產出文宣內容，使用者還可調整參數來變更內容。圖片來源_Line
這個只需輸入單項產品資料、就能產出文宣的功能，就是運用HyperCLOVA單樣本學習的能力。但這只是Playground的範例之一，企業可用Playground來開發多種NLP應用。今年，Line也將開放開發者試用Studio，並釋出Python SDK，要讓大家都能使用。
不過，在Line的技術戰略中，NLP應用只是第一步。Line預告，接下來要結合電腦視覺技術，賦予HyperCLOVA「看」的能力，既要能看懂影像，也要懂影像中的文字，比如將多模態AI納入主打的OCR服務，讓AI辨識圖片中文字，還能理解文字含義，甚至，Line要進一步將推動工作流程自動化，利用影像辨識和NLP能力，來自動化法律合約檢視與修改。他們的目標是，用一個模型解決多模態任務，打造MiLAI（Mixed Line），往通用AI邁進、打造更完整的AI產品生態系。
https://www.ithome.com.tw/news/147921
買不起高檔茶葉，精緻包裝茶葉罐，也能撐場面!
鴻和興精密工業股份有限公司集合了製茶罐業各相關技術的專業人士，不論是在印刷上或在茶葉罐加工製造上都能夠給客戶一個專業上的技術服務與諮詢。
空壓機這裡買最划算!
晨達空壓機秉持著專業空壓機技術、優質快速服務、空壓機合理價格。為您解決工作中需要風量、風壓的問題。
總是為了廚餘煩惱嗎？
雅高環保提供最適用的廚餘機，滿足多樣需求。
(全省)堆高機租賃保養一覽表
由簡易堆高機修改而成，無需現場施工，交機即可使用！