“Pryon引領負責任的AI開發：重視道德風險並預計參與新監管框架討論”
隨著人工智能的快速發展，相關創新傳世的發展和部署八乎越來越清晰地映現出倫理問題。AI企業Pryon的創始人及執行長Igor Jablokov在AI和大數據博覽會北美站前的訪談中，直面AI面臨的種種嚴重挑戰。那些必須謹慎因應的問題有不少，指我AI的錯視、虛假資訊的產生，到侵犯資料隱私權和洩漏知識產權的問題。值得一提的是Pryon已經把AI倫理難題透過對關鍵基礎設施和重要使用情境負責任的設計，實現人為監控和實現人工智能的開發和應用。
作為專業的AI議題專家，我們必須認識到Jablokov所述的種種倫理挑戰並不是虛构。AI的錯視和虛假資訊的生成可能對當前實現人工智能的努力構成嚴重威脅，而數據隱私權和知識產權的洩漏也是我們需要認真考慮的問題。與此同時，我們也需要注意到張雅詩其他主要的擔憂，如訓練數據中滲透的偏見和敵對性內容，以及大型語言模型的極端能源消耗和對氣候的影響。
適當的監管框架是確保人工智能的負責任發展和部署的關鍵因素。為此，Jablokov強調了需要更多的新型監管框架以確保人工智能的負責任發展和部署。波倫的治理取向，可驗證的知識源，人的監視和與監管者的合作可能為更負責任的AI開發提供了一個模板。這些都是我們期望在從有限應用到更普遍能力的AI領域中看到的策略。
微軟推出更有效且具成本效益的小型語言模型Phi-3系列
微軟宣佈推出小型語言模型（SLM）Phi-3系列，該系列被公認為該規模下最優秀且最具成本效益的模型。微軟研究人員開發的創新訓練方法使Phi-3模型在語言、編碼和數學基準上超越較大的模型。
微軟生成式AI的首席產品經理Sonali Yadav表示：“我們將開始看到的不是從大模型轉向小模型，而是從單一模型類型轉向一個模型組合，使客戶可以根據自己的場景來選擇最好的模型。”。
首款Phi-3模型Phi-3-mini擁有38億的參數，現已在Azure AI模型目錄，Hugging Face，Ollama及NVIDIA NIM微服務中公開提供。儘管大小緊湊，Phi-3-mini的性能卻超越了規模兩倍的模型。很快就會有更多Phi-3模型推出，如Phi-3-small（70億參數）和Phi-3-medium（140億參數）。
“一些客戶可能只需要小模型，一些則需要大型模型，很多人將想以各種方式結合兩者，”微軟AI副總裁Luis Vargas說。
SLMs的主要優勢是其體積較小，可在無網路連接條件下，實現低延遲的AI裝置部署。潛在的應用場景包括智能傳感器、攝像頭、農業設備等。保護隱私是另一個優點，因為可以在裝置上保存數據。
大型語言模型（LLMs）擅長理解龐大數據集的複雜原理，這可以應用於藥物發現等相關領域的應用，例如理解科學文獻中的各種互動。然而，對於簡單的問答、撮要、內容生成等，SLMs提供了一個引人入勝的選擇。
艾瑞思公司的技術總監兼聯合創始人Victor Botev評價道：“相比於追趕愈來愈大的模型，微軟正在開發利用更精確策展的數據和專業化培訓的工具。這允許我們在不用支付龐大計算成本的狀況下，提高性能和推理能力。如果能實現這一目標，那將會為尋找AI解決方案的企業消除龐大的采納障礙。”
微軟的SLM質量飛躍的關鍵是一種靈感來自臨睡故事書的創新的資料過濾和生成方法。
“為什麼不尋找超高質量的數據，而不僅僅是訓練原始網路數據呢？”微軟負責SLM研究的副總裁Sebastien Bubeck問。
微軟團隊在此基礎上進一步取得成功，他們獲得了網路上有教育價值的高質量數據，以創建’CodeTextbook’數據集。該數據集是通過人工和大型AI模型的提示、生成和過濾多輪合成的。
Bubeck說：“我們將很多心血投入這些合成資料的產生中，並不接受我們產生的所有成果。”
“這款高質量的訓練數據產生了變革性的影響。因為它正在閱讀像教科書一樣的材料……你讓語言模型閱讀並理解這些教材變得更容易，”Bubeck解釋道。
儘管已周詳考慮數據策劃，微軟強調根據其所有生成型AI模型的標準流程，對Phi-3的發布實行額外的安全實踐。
“與所有生成AI模型的發布一樣，微軟的產品和負責任的AI團隊對Phi-3模型的開發過程中的風險採取了多層管理和減輕風險的方法，”一篇博文中寫道。
這包括進一步的訓練實例來強化預期行為，透過紅隊評估來識別弱點，並為客戶提供建立在Phi-3之上的可靠應用程序的Azure AI工具。
看看這邊：微軟將與南韓科技領導者建立AI合作關係
想從行業領導者那裡了解更多關於AI和大數據的知識嗎？在阿姆斯特丹、加利福尼亞和倫敦參加AI＆Big Data Expo。該綜合性活動與其他領先的活動並列舉行，包括BlockX、Digital Transformation Week和Cyber Security＆Cloud Expo。
The post 微軟發布Phi-3家族小型語言模型首次出現在 AI新聞。
“微軟計劃與韓國科技巨頭強化AI領域合作關係”
微軟已籌劃於下個月與南韓頂尖科技公司的高階執行人員進行會議，以加強其在人工智能領域的夥伴關係。該高級會議，名為微軟CEO高峰會2024，將於2024年5月14日進行，並將由微軟創始人比爾·蓋茲和董事長兼執行長薩蒂亞·納德爾拉領銜，他們將與三星的慶系繼訓、SK海力士的郭悖榮、LG電子的趙俊完以及SK電信的柳榮相進行不公開的討論。
來自《韓國經濟日報》的消息來源 表示，微軟計劃探索在各個行業開展人工智能技術的合資企業。與三星和SK海力士的討論可能會集中於共同開發和供應人工智能芯片。
三星和SK海力士是全球領先的記憶體芯片製造商，能夠用 High-Bandwidth Memory（HBM）人工智能芯片和固態硬碟驅動器（SSD）等新一代技術提升微軟的服務器能力。
與LG電子的合作主題將包括將人工智能技術整合到家用電器中，這將提升微軟對抗谷歌和Meta等競爭對手的競爭優勢。微軟預計將與SK電信進一步深入探討雲和5G服務。
這些會議的舉辦恰逢全球科技格局對人工智能開發的關注度逐漸增加。通過將微軟的人工智能服務整合到三星的智能手機和LG的家用電器等產品中，微軟可能顯著提升其市場地位。
上個月，從三星的設備解決方案部門得知，他們的新AI加速器，Mach-1和Mach-2，將很快開始大規模生產。這些加速器旨在優化GPU和HBM芯片之間的協同作用，有望在處理速度上帶來顯著的變革。就在本月初，該公司推出了業界首款旨在提升設備上人工智能的LPDDR5X DRAM。
在首席執行官柳榮相的帶領下，SK電信引領了全球電信人工智能聯盟（GTAA）。這個聯盟，包括德國電信和新加坡電信等全球大型玩家，旨在開發人工智能基礎設施和生成人工智能服務，覆蓋全球超過13億的客戶群。
去年，SK電信投資了1億美元於人工智能初創公司Anthropic，以開發特別為電信業者設計的大型語言模型（LLM）特別為電信公司開發。這種合作舉措擴展到了電信AI平台，這是GTAA發起的一個正在進行的項目。
微軟CEO高峰會2024提供了一個加強人工智能合作和技術進步的機會，鞏固了微軟在行業內的關鍵地位。
(照片由Natalie Pedigo提供)
參考資料： Meta以開源Llama 3大型語言模型重新定義標準
想知道更多來自行業領導者的人工智能與大數據知識嗎？請查看在阿姆斯特丹、加利福尼亞和倫敦舉行的AI＆Big Data Expo。該全方位活動與BlockX, Digital Transformation Week以及Cyber Security＆Cloud Expo等領先活動共同舉辦。
你也可以在這裡探索由TechForge舉辦的其他即將舉行的企業科技活動和網絡研討會。here。
首發於 AI News原文：Microsoft plans to strengthen AI partnerships with South Korean technology firms
“Meta推出開源大語言模型Llama 3，性能超越GPT-3.5”
科技巨頭Meta推出Llama 3，這是其最新一代開源大型語言模型(LLM)。該公司稱Llama 3建立了新的性能基準，超越了實際應用中先前的行業領先模型如GPT-3.5。
在一個博客文章中，Meta公告其發佈，”我們的目的在於創建與當今最佳專有模型相當的最重要的開放模型。”
首批開放的Llama 3模型有80億個和700億個參數版本。Meta表示，其團隊還在訓練大於4000億參數的大型模型，並將在接下來的幾個月中與詳細研究工作的論文一起釋出。
Meta的新一代模型被稱為Llama 3，是一個開源的大型語言模型，被認為是目前開源領域中的最新進展。該公司聲稱，Llama 3為性能基準樹立了新的高度，超越了先前公認為業界領先的GPT-3.5等模型。這種創新的模型開發將對現實世界的應用產生重大影響。
Meta在公佈這一開源模型時表示，他們的目標是創建出可以與如今最佳專有模型媲美的開源模型。這種意識在當前的科技環境中顯得尤為重要，開源與共享變得越來越重要，這正是這種創新模型引人注目之處。
首批開放的Llama 3模型包括80億個和700億個參數的版本。進一步的，Meta的團隊正在開發擁有超過4000億參數的大型模型，並計劃在未來幾個月釋出這些模型和詳細的研究論文。
在創建Llama 3模型的過程中，Meta即投入了巨大的資源並且優化了模型結構，這也體現在他們的開源策略上，極力追求開放和透明。他們的70億參數模型在12個主要的應用場景如編程，推理，創意寫作等方面，超越了GPT-3.5，Claude和其他同等規模的LLM模型。該公司的8億參數模型也在多項知名的LLM任務中設立了新的基準。
以我的專業角度來看，Llama 3無疑將為AI發展提供了一片開放的生態系統，以進一步推動AI的發展。該模型將在所有主要的雲服務提供商，硬體製造商和AI平臺上可用，有助於實現AI的廣泛集成和應用。
至於安全性，Meta也升級了他們的AI安全工具，以分類風險和評估潛在的濫用情況。同時，他們還有個名為Code Shield的新組件，用於過濾在推斷時的不安全的代碼建議。
總之，Llama 3模型的推出，可視為Meta致力於提倡開源，並進一步推動人工智能的透明度，以應對日益嚴格的AI規則的重要舉動，而該動向對於大規模利用AI技術的未來秩序將產生廣深的影響。
“Mistral AI的Mixtral 8x22B：開源AI模型新里程碑”
Mistral AI 最近發表了新型人工智慧模型Mixtral 8x22B，為開放原始碼模型設立了全新的效能與效率基準。此模型具備強大的多語言能力，以及卓越的數學和程式編碼技能。
Mixtral 8x22B採用《稀疏專家混合》（Sparse Mixture-of-Experts，SMoE）模型運作，此模型在活動時只使用了其 1410 億参数中的 390 億。
Mixtral 8x22B能熟練操控包括英語、法語、意大利語、德語及西班牙語等主要語言，並可應用到技術領域，具有強大的數學和編碼能力。值得一提的是，該模型支援原生功能呼叫並與’約束輸出模式’搭配，便利大規模應用開發和技術升級。
憑藉著可以存取高達64K篇文章的窗口，Mixtral 8x22B可確保從龐大文件中準確回憶資訊，進一步吸引企業層級的使用，能隨時處理龐大的數據集。
Mistral AI 網站提供了與Mixtral 8x22B互動的平臺La Plateforme，鼓勵潛在的使用者和開發者自行探索。
在人工智能的角色日益擴大的時代，Mixtral 8x22B在高效能、高效率與開放訪問性的融合，標誌了先進AI工具民主化的重要里程碑。
“SAS推出遊戲規則改變者：為各業提供行業特定AI模型”
專業於資料處理和AI解決方案的SAS，近日推出了一種為企業解決營運挑戰的方式，稱之為“遊戲規則改變者”。
SAS以業界專屬的輕量化AI模型套件，提供給不同領域的使用者。SAS期望用這種現成且容易布署的AI技術，協助企業以前所未有的效率，將真實世界的應用案例商品化。
未來情報研究部主任Chandana Gopal表示：“SAS通過創新的新產品，將其產品組合進行改革，以滿足更廣泛的用戶需求，並增加市場份額。”
他續說：“SAS正在將以其核心資產、人才和IP為基礎的模型商品化，並借鑑其在解決業界問題方面的豐富經驗。”
相比傳統的AI實施可能導致的冗長且耗時，SAS的業界專屬模型設計用於快速整合，使組織可以實現具有信任的AI技術並加快實現實際好處和可信賴成果。
隨著市場足跡的擴大，企業面臨著要有效競爭的壓力，並尋求AI技術以獲得優勢。由於AI技能的短缺，維持數據科學團隊的工作從來沒有像現在這樣具有挑戰性。因此，企業在使用AI解決問題時需要靈活性，並需要靈活的AI解決方案以迅速推動業務結果。SAS的易於使用但功能強大的模型，調節為企業所需，使企業可以受益於SAS在各行業中半個世紀的領導經驗。
SAS以高效實現AI功能為眾多人士提供支援。他們推出的開箱即用、輕量化AI模型套件－對於任何程度的技能都友善，一開始就提供一種可為倉庫空間最佳化的AI助手。利用如大語言模型的技術，這些助手可以照顧到非技術用戶，將互動轉化為優化的工作流程，並協助做出更快的規劃決策。
SAS’ VP for AI and Analytics，Udo Sglavo表示：“模型是對我們現有方案和SAS Viya平台提供的最佳補充，可以滿足各種業務需求，並確保創新觸及我們生態系統的每個角落。我們根據特定行業的需求來調整我們的方法，我們的框架使企業在各自的環境中可以茁壯成長。”
SAS將於今年晚些時候開始提供第一批SAS模型。
“OpenAI與《金融時報》簽訂策略性夥伴協定，針對版權問題加強合作”
《金融時報》和OpenAI 宣布結成策略性夥伴關係並簽訂授權協定，將整合該報的新聞內容於ChatGPT並共同為《金融時報》的讀者開發新的AI產品。然而，OpenAI與出版商攜手並不代表他們不再未經許可便從網站上抓取信息。
透過此一協議，ChatGPT的使用者將能依據相關查詢回應看到被選定的、具備引言的《金融時報》新聞摘要和連結。此外，該報在今年初成為了ChatGPT企業版的用戶，為所有員工提供該技術的存取權，讓他們熟悉並從中獲得潛在的生產力提升。
然而，儘管強調了《金融時報》對人類新聞學的承諾，Ridding指出，該協議將擴大其新聞工作的範疇，同時深化對讀者興趣的理解。此外，Ridding補充說，本月初，《紐約時報》報導稱OpenAI正在使用YouTube影片的劇本來訓練其AI模型。該報表示，這種做法違反了版權法，因為上傳影片到YouTube的內容創作者保留了他們所製作材料的版權擁有權。
然而，OpenAI堅稱其在網路上的內容使用遵循公正使用原則。該公司與許多其他科技公司一樣，主張他們的大型語言模型（LLM）將從網路上收集來的信息轉換成全新且不同的創作。事實上，OpenAI 在今年一月向英國議會委員會聲稱，想要開發今天頂尖的AI系統而不使用大量已獲版權的數據“不可能”。
本次OpenAI與《金融時報》的協議僅是OpenAI最近與全球主要新聞出版商達成的一系列新合作中的最新一例。雖然這些協議的財務細節並未公開，但OpenAI與出版商的最近夥伴關係將使該公司能繼續在若已取得必要許可的情況下，於網路內容上訓練其演算法。
目前而言，OpenAI對於《金融時報》的合作感到熱情洋溢，並希望繼續與《金融時報》合作，尋找創新且實用的方法讓AI為新聞組織和記者賦能，並讓人們能夠以ChatGPT的方式互動與接收實時的世界級新聞。
而Ridding則表示，《金融時報》珍視這次有機會直接參與開發過程，因為人們正在以新的方式去探索內容。他承認，像AI這樣的變革性技術有著巨大的進步和挑戰潛力，但他強調，“我們永遠不可能倒退時光。”
“AI週報：微軟縮小型模型、Adobe影片畫質提升與AI戰機空戰”
歡迎閱讀我們這週最新鮮的AI新聞摘要。
本週AI將模糊的影片優化為出色的視覺效果。
微軟則釋出一個小巧但實力強大的模型。
此外，一個AI操控的F-16戰機在真實世界中與人類進行了空中格鬥。
讓我們深入了解一下。
清晰度提升
Adobe曾以VideoGigaGAN的示範吸引我們的注意，這是一個可以將模糊影片增強到8倍清晰度的模型。我們以前見過視頻增強的嘗試，但這是首次將低分辨率影片生成平滑銳利的輸出。
這可以讓我們擁有歷史存檔影片以及老式電視節目的高清版本。甚至我們的父母可能會將這種技術運用在舊家庭影片上，所以……
產生式AI正在帶動深度偽造色情影片的爆增，而這些影片大部分都出現在社交媒體平台上。
Meta的監督委員會正在評估對色情深偽造影片的處理方式，隨著Meta嘗試設計一種策略來應對內容審核的混亂。
深度偽造的色情影片和政治宣傳片不太可能在短時間內消失。至少有些人正在透過生成式AI和政治人物進行娛樂。
新聞：“OpenAI影片生成器Sora可能助長宣傳和偏見，專家認為。” 網路的反應：
網友u/pergessleismydaddy在版塊singularity的發言
新型模型
之前有更多語言模型隨著一些非常小的模型的重要發展而推出。
Meta推出了兩種版本的Llama 3，一種是8B參數模型，另一種則是參數較大的70B模型。基準測試顯示，這些現在是領先的“開源”模型，Llama-3-70B甚至與Google的Gemini 1.5 Pro相競爭。
Meta表示，目前正在訓練巨大的400B參數模型以及多模態版本的Llama 3。
在語言模型範疇的最小型部分，微軟推出了Phi-3 Mini，這是一個小巧但強大的模型。Phi-3 Mini證明了，大並不總是比較好。
微軟使用精心策劃的合成數據來訓練了這個3.8B參數模型，並超越了規模兩倍的模型的性能。
這種模型很可能很快就會出現在我們的手機上。
科技股下跌
NVIDIA的股價大幅上漲最終暫停了一下。該股價下跌了10%，其他美國科技股也受到了重創。10%的跌幅代表著公司的市值被壓縮了2000億美元。
這是否是投資者對AI熱情正在消退的跡象？不太可能。一旦下週的大型科技公司的盈利報告得出，我們可能會看到正常的服務恢復。
AI增強力量
達爾帕（DARPA）已經開發了一種AI戰鬥機操控系統，並在模擬飛行中取得了良好的結果。本周他們揭示了他們在一場與人類戰鬥機飛行員對抗的空中格鬥中測試了AI操控的F-16噴射戰機。
誰贏了？沒有公開。但我猜下一代戰鬥掙可能不需要駕駛員座椅了。
AI的自主行動能力可能會激勵網路犯罪。研究人員發現，由GPT-4驅動的AI代理可以自主地利用網路安全的漏洞。
這些漏洞通常是公開發布的，而AI代理只需要91行代碼，這种現象並不讓人放心。
它可能不像操控噴射機或是黑客軟件那麼高科技，但AI正從這些青少年手中接管了Wendy’s的工作。
AI對話
本周我們有機會採訪一些在AI，機器人技術和區塊鏈領域工作的專家。
這些技術之間的交集正在增加，未來可能由這些技術的結合使之塑形。
Cogniteam公司的CEO優達·埃爾瑪利亞博士說明了他們的軟體是如何加速機器人的開發、部署和遠程管理。
AIslovakIA公司的AI&資料科學布道者Radovan Kavicky給出了對於安全開發AGI的重要見解，並剖析為什麼他認為OpenAI的進路不是正確的途徑。
其他新聞……
本週我們還讀過一些很值得一看的AI相關故事：
- 微軟的 VASA-1模型可以將單一圖像和音頻轉換成逼真的面部動畫視頻。
- AI可以從無表情的面部預測政治信仰。
- MIT的研究揭示了一種AI模型，可以預測你的下一步行動。
- 進階AI助理的倫理問題。探索有更強大AI的未來的潛力與風險。
- OpenAI的首席執行官Sam Altman 投資太陽能公司Exowatt，以為AI數據中心提供能源
- 波士頓動力的新電動機器人看起來相當威脅。
“波士頓動力的機器人與沙丘音樂組合起來不是真實的，它不會傷害你”
波士頓動力的機器人與沙丘音樂: pic.twitter.com/fvSjtrMYzo
– Frye (@___frye) 2024年4月17日
演出結束。
希望Adobe能讓我們快點體驗到VideoGigaGAN。那些展示片段看起來真的很驚人。你們首先想要讓哪部舊電視劇或電影升級成高清的呢？
你願意搭乘AI操控的戰鬥機飛行嗎？我非常想聽聽它挑戰的人類飛行員是怎麼說的。可能好萊塢已經有人在利用Sora進行創作，新的《壯志凌雲3》靈感或許會得到AI的啟發。
我們很高興能與業內人士進行對話，我們將很快發布更多的對話內容。
如果你有我們應該下一個訪問的人的聯繫方式，請告訴我們，並向我們提供我們可能錯過的AI故事的相關資訊。
來自DailyAI的帖文《DAI#36 – 小型模型, 優化視頻和AI空戰》。
