信頼に足る独立したオープンソースの AI エコシステムを構築する Mozilla.ai 17
ストーリー by nagazou
投資 部門より
投資 部門より
headless 曰く、
Mozilla は 22 日、信頼に足る独立したオープンソースの AI エコシステムを構築する Mozilla.ai スタートアップとコミュニティに 3,000 万ドルを投資すると発表した (The Mozilla Blog の記事、 Phoronix の記事、 The Verge の記事)。
AI が今年最も話題になったものの一つになることは間違いなく、Stable Diffusion や GPT-4 のような最新の AI ツールはインターネットだけでなくコミュニケーションや創造性、社会全体に対する我々の見方を再形成しつつあるという。その一方で「おすすめエンジン」のような既存の AI ツールもより強力になり、数十億人の暮らしに影響を与え続けている。
新しい AI の波が盛り上がる中、「何ができるか」「人々がどれだけ利益を得るか」といった期待だけでなく、「何が悪い方向に向かうか」「それにどう対処するか」といった強い不安も感じる。ソーシャルメディアとスマートフォンとともにあった 20 年間が我々を疑い深くさせているとのこと。
これらの疑問に答えるべく、既に Mozilla では信頼に足る AI の概要を考えてきたほか、コミュニティを動かして問題点を記録し、スタートアップへの投資を行ってきた。これからの AI の波は人々の暮らしを豊かにする非常に大きな可能性を秘めているが、そのためには人を中心に置いた透明性や責任を重視する、旧来とは異なる考え方でテクノロジーを設計する必要があるという。しかし、現在は旧来の考え方が主流であり、Mozilla はそれを変えていきたいとのことだ。
リソースはどのくらいいるのでしょう (スコア:0)
クラウドではなく、オンプレミスで飼ったときにどのくらいの物がいるかも知りたい
# 化け物のようなハードが要るんでしょうけど
Re: (スコア:0)
やってないけど。
https://gigazine.net/news/20230320-chat-ai-alpaca-cpp/ [gigazine.net]
alpacaの記事他にも大きなモデルがあるのかも知れないが、この記事のサイズだとかなりお馬鹿かもしれない。
＃alpacaのモデルデータ(ファイルサイズ：3.92GB
https://gigazine.net/news/20230306-llama-65b-leaked/ [gigazine.net]
13BでGPT-3相当だそうだけど、LLaMA-65Bが流出とか。体感でどうなのかは知りません。
https://gigazine.net/news/20230314-dalai-llama/ [gigazine.net]
LLaMAの量子化ビット数を減らしてモデルのサイズを減らすDalaiの記事。
この記事のLLaMA-7Bは会話しようとしても会話が成り立たないレベルらしい。
＃npx dalai llama
でインストールとか…
Re: (スコア:0)
＃Full: The model takes up 432.64GB
＃Quantized: 5.11GB * 8 = 40.88GB
意外と大したことなかったって感想
お古のSSDをモデル置き場にすればいいし
接続もNVMeどころかSATAですらなくUSBでもいいんだし
ストレージは追加投資せずに済みそう
# そうストレージは、、、
Re: (スコア:0)
うん、まあ試したら、どんなか教えてください。
どこから出てきたお金？ (スコア:0)
資金が足りないからあれが進まないよ、これを縮小するよ、それを移管するよみたいなことをしょっちゅう言ってた気がするんだが。
Re: (スコア:0)
うむ。最近のMozillaって風呂敷ばかりでかくて何も実行できてない気がする。
Re: (スコア:0)
資金が足りないからあれが進まないよ、これを縮小するよ、それを移管するよみたいなことをしょっちゅう言ってた気がするんだが。
え？AIでリストラ宣言の下地じゃないの？
# 切り捨てて自滅ならMozillaの方針に沿ってるよね
Re: (スコア:0)
いや、これも資金だけ蒸発してリスト入りでしょう。
AIっていま言いやすいから言ってるだけで。
Re: (スコア:0)
AIで大風呂敷を広げておけば、どこからともなく資金が湧いてくるので、それを期待しているのでは？
Re: (スコア:0)
率直に言って、今から非営利団体がAI投資を始めるのは始める前から手遅れ感が強い。
AI開発は単純に物量勝負になると思われるので、Microsoft並みに資金を投入できないのであれば後追いでやる意味は無いと思う。
OpenAIも主にAIの倫理的な挙動に手を焼いてるようなので、そこを何とかするには金がかかる。
Re: (スコア:0)
今でもGPT-3より小さく、学習コストの低いモデルなど出ているし
今後も出るだろう
性能もGPT-3相当で良いとして、学習コストが低いのであれば、大手以外が自社オンプレ、或いはスマホとかに搭載する方向にも進むだろう
不穏当な発言は問題だが、多数の人が使えるようになれば、それを改善する新しい方法が見つかるかもしれないし、それを気にしない応用分野もあるかも知れない。あまり喋らせないでスプレッドシートのデータを動かさせるとか
いずれにしても大規模な物をリリースできる分、大手有利ではある。と言っても、「GAFA並みの大手しか出来ない」という状況ではなくなる可能性は
firefoxでの自滅をみるに (スコア:0)
Mozillaに取ってのAIとはAnti-Importanceではなかろうか
ソースよりもデータの方じゃない？ (スコア:0)
AIって結局それ次第だよね。
余り期待は為ないが！ (スコア:0)
ＦＦを利用する一つがこれらのＦＦの動き！
Re: (スコア:0)
ふぁいふぁん？
googleやMicrosoftはいいとして (スコア:0)
データソースはどうするんや
Re: (スコア:0)
世の中にはデータセットを作成して公開する人達が居るようだ