Perplexity推出pplx-api，可快速访问开源大型语言模型如Mistral 7B、Llama2 13B等

Perplexity推出，可快速访问开源大型语言模型如Mistral7B、Llama213B等-pplx-api易于使用，开发者可以在几分钟内通过RESTAPI整合先进的开源模型。-pplx-api推理速度很快，比其他解决方案的延迟降低了2-3倍。-pplx-api基础设施经过验证，可以承载产品级流量。-pplx-api采用NVIDIATensorRT-LLM和AWSA100GPU等先进软硬件，实现了优化。-pplx-api已用于Perplexity的产品中，相比外部API每年节省了62万美元成本。-pplx-api兼容OpenAIAPI，可以轻松集成到现有应用中。-未来pplx-api将支持更多定制和开源模型。

Meta 开源最新的 Llama 3.1 大模型

Meta开源最新的Llama3.1大模型其它科技公司都想把AI产品买给你们，但扎克伯格（MarkZuckerberg）选择免费送给你们。Meta周一宣布了其最新的大模型，其最大规模版本的参数有4050亿个，较小规模的版本有700亿和80亿个参数。Meta称，Llama3.1在基准测试中的表现超过了OpenAI的GPT-4o和Anthropic的Claude3.5Sonnet。Meta表示，Llama3.1使用了逾16,000个英伟达H100GPU进行训练，它认为相比私有大模型，部署成本会更低。扎克伯格称他与世界各地的开发者、企业和政府官员交流时，他们都表达了不希望被私有封闭供应商锁定的愿望，希望自己能控制模型，而Llama3.1将能满足他们的要求。来源，频道：@kejiqu群组：@kejiquchat