为了账号安全,请及时绑定邮箱和手机立即绑定

云原生周刊:在Docker上部署大语言模型

标签:
人工智能

开源项目推荐

Glance 是一个开源的自托管仪表板,旨在帮助用户将多种信息源集中展示在一个平台上,用户可以通过它查看不同的实时数据和更新。作为自托管解决方案,Glance 提供了灵活的定制功能,允许用户根据自己的需求添加或删除不同的源和小部件。

OrangePiShell 旨在为 Linux 系统提供一个简化的解决方案,用于快速部署一些有用的 Docker 项目。最初,OrangePiShell 是专为香橙派(Orange Pi) 设备设计的,但随着项目的不断发展,它已经支持在各种 Linux 环境中运行。这个工具的主要目标是让用户能够方便地部署和管理 Docker 容器。

Olares 是一个开源、自托管的云平台,旨在作为公共云的替代方案。它基于 Kubernetes 构建,支持多节点部署,提供丰富的开发工具、应用管理以及多用户支持。Olares 支持在 Linux、Windows、Mac 等操作系统上运行,并提供灵活的客户端应用,支持 Android、iOS、Windows 和 Mac。

Terrateam 是一个开源的 GitOps CI/CD 平台,旨在自动化基础设施工作流,尤其是与 Terraform、OpenTofu、CDKTF 和 Terragrunt 等基础设施管理工具的集成。它通过 GitHub 托管和 Pull Request(PR)来协调和执行这些工具的操作,使得基础设施管理更加自动化、可审计且具有版本控制。

文章推荐

生成式 AI 是指能够基于大量数据集自主生成内容(如文本、图像或音乐)的 AI 系统。大型语言模型(LLMs),如 GPT-4,是该领域的关键,专门用于理解和生成类人文本。其应用涵盖了医疗、金融等行业。部署 LLMs 需要像 Docker 这样的平台来实现高效、可扩展的管理。Ollama 是一个用于本地部署 LLMs 的工具,提供了微调和交互式查询功能,而无需依赖云服务。

这篇文章讨论了动态 K8s API 服务器的开发,旨在增强 K8s API 聚合层。这个创新是 Cozystack 项目的一部分,旨在为K8s 用户提供更高的灵活性和可扩展性。通过允许动态 API 扩展和改进资源管理,它使得新特性的集成变得更加容易,而无需修改核心系统。这种方法简化了用户操作,并支持 Cozystack 创建一个更适应和高效的云原生环境的愿景。

Gafgyt 恶意软件传统上以攻击物联网设备为主,但最近开始将目标转向配置不当的 Docker 远程 API 服务器。攻击者利用这些漏洞部署恶意软件,通常还会伴随一个能发起分布式拒绝服务(DDoS)攻击的僵尸网络。这标志着 Gafgyt 恶意软件从物联网设备扩展到像 Docker 容器这样的云基础设施。

云原生动态

OpenCost 成为 CNCF 孵化项目,并推出了新的插件,支持 Datadog、MongoDB Atlas 和 OpenAI,从而提升了 K8s 环境中的成本可视化能力。这些插件使用户能够追踪监控、数据库和 AI 服务的成本。此外,OpenCost 还为被采纳的社区贡献插件提供 $1,000 奖金和周边产品。该项目通过插件开发鼓励更多的合作,并计划推出 Snowflake、Databricks 和 Cloudflare 等服务的插件。

Linkerd 2.17 引入了多个重大更新,包括出口流量可视化与控制、限流功能以提高服务可靠性,以及跨集群服务功能,以增强多集群环境中的操作。这些新特性改善了流量管理,简化了配置,并优化了 K8s 集群中的服务性能。此外,Linkerd 还集成了 OpenTelemetry,用于分布式追踪,保持了其简洁而强大的设计。

关于KubeSphere

KubeSphere (https://kubesphere.io)是在 Kubernetes 之上构建的开源容器平台,提供全栈的 IT 自动化运维的能力,简化企业的 DevOps 工作流。

KubeSphere 已被 Aqara 智能家居、本来生活、东方通信、微宏科技、东软、华云、新浪、三一重工、华夏银行、四川航空、国药集团、微众银行、紫金保险、去哪儿网、中通、中国人民银行、中国银行、中国人保寿险、中国太平保险、中国移动、中国联通、中国电信、天翼云、中移金科、Radore、ZaloPay 等海内外数万家企业采用。KubeSphere 提供了开发者友好的向导式操作界面和丰富的企业级功能,包括 Kubernetes 多云与多集群管理、DevOps (CI/CD)、应用生命周期管理、边缘计算、微服务治理 (Service Mesh)、多租户管理、可观测性、存储与网络管理、GPU support 等功能,帮助企业快速构建一个强大和功能丰富的容器云平台。

本文由博客一文多发平台 OpenWrite 发布!

点击查看更多内容
TA 点赞

若觉得本文不错,就分享一下吧!

评论

作者其他优质文章

正在加载中
  • 推荐
  • 评论
  • 收藏
  • 共同学习,写下你的评论
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦
今天注册有机会得

100积分直接送

付费专栏免费学

大额优惠券免费领

立即参与 放弃机会
意见反馈 帮助中心 APP下载
官方微信

举报

0/150
提交
取消