【財(cái)新網(wǎng)】開源模型和閉源模型的競(jìng)賽還在持續(xù)。美國(guó)當(dāng)?shù)貢r(shí)間7月23日,F(xiàn)acebook母公司Meta(NASDAQ:META)宣布推出Llama 3.1開源模型,包含4050億、700億、80億三個(gè)參數(shù)版本。Meta稱,此前開源大模型能力落后于閉源模型,隨著此次4050億參數(shù)版本開源模型的發(fā)布,開源模型將成為領(lǐng)導(dǎo)者。
今年4月,Meta剛發(fā)布了開源大模型Llama 3系列,包含80億、700億參數(shù)的兩個(gè)版本,其中700億參數(shù)的版本能力對(duì)標(biāo)GPT-3.5,其長(zhǎng)文本能力僅為支持8K上下文窗口,遠(yuǎn)落后于128K左右的行業(yè)平均水平,Meta當(dāng)時(shí)稱將在接下來數(shù)月推出更強(qiáng)長(zhǎng)文本能力、多種尺寸的模型(詳見財(cái)新網(wǎng)報(bào)道《GPT革命|Meta發(fā)布新一代開源模型 模型開閉源之爭(zhēng)持續(xù)》)。