PyTorch是利用深度学习进行数据科学研究的重要工具，在灵活性、可读性和性能上都具备相当的优势，近年来已成为学术界实现深度学习

PyTorch是利用深度学习进行数据科学研究的重要工具，在灵活性、可读性和性能上都具备相当的优势，近年来已成为学术界实现深度学习算法最常用的框架。 考虑到PyTorch的学习兼具理论储备和动手训练，两手都要抓两手都要硬的特点，开发了这套《深入浅出PyTorch》课程，期望以组队学习的形式，帮助大家从入门到熟练掌握PyTorch工具，进而实现自己的深度学习算法。同时通过项目实战，充分锻炼编程能力，掌握PyTorch进行深度学习的基本流程，提升解决实际问题的能力。 学习的先修要求是，会使用Python编程，了解包括神经网络在内的机器学习算法，勤于动手实践。 《深入浅出PyTorch》是一个系列，一共有三个部分。已经上线的是本系列的第一、二部分，后续会不断更新《深入浅出PyTorch》（下），给出更贴合实际应用的实战案例。 || | #机器学习 #PyTorch

( flwr) 是用于构建联邦学习系统的 #框架 。Flower 的设计基于以下几个指导原则：

( flwr) 是用于构建联邦学习系统的 #框架 。Flower 的设计基于以下几个指导原则： 可定制：联邦学习系统因一个用例而异。Flower 允许根据每个单独的用例的需要进行各种不同的配置。 可扩展：Flower 起源于牛津大学的一个研究项目，因此在构建时考虑了 AI 研究。许多组件可以扩展和覆盖以构建新的最先进的系统。 与框架无关：不同的机器学习框架具有不同的优势。Flower 可以与任何机器学习框架一起使用，例如PyTorch、 TensorFlow、Hugging Face Transformers、PyTorch Lightning、MXNet、scikit-learn、JAX、TFLite，甚至 适合喜欢手动计算梯度的用户的原始NumPy 。 可以理解：Flower 的编写考虑了可维护性。鼓励社区阅读和贡献代码库

：基于PyTorch构建的高性能优化器库，可轻松实现函数优化和基于梯度的元学习

：基于PyTorch构建的高性能优化器库，可轻松实现函数优化和基于梯度的元学习 它包括两个主要功能： TorchOpt 提供了功能优化器，可以为 PyTorch 启用类似 JAX 的可组合功能优化器。使用 TorchOpt，可以轻松地在 PyTorch 中使用函数式优化器进行神经网络优化，类似于 JAX 中的Optax。 借助函数式编程的设计，TorchOpt 为基于梯度的元学习研究提供了高效、灵活且易于实现的可微优化器。它在很大程度上减少了实现复杂的元学习算法所需的工作量。

：一个Python库，能让机器学习团队以协作、灵活和高效的方式共享、加载和转换数据

：一个Python库，能让机器学习团队以协作、灵活和高效的方式共享、加载和转换数据 特性： SPEED：避免数据停顿，即昂贵的GPU在等待数据时不会空闲。 成本：首先，避免 GPU 停顿，其次允许对数据进行分片和集群，并将其存储和加载到包中，从而降低数据桶云存储的成本。 灵活性：使用灵活的标准数据方案，该方案适用于任何设置，包括多模式数据。 协作：以自助服务模式更轻松地在团队和项目之间共享数据和代码。

EasyCV是一个涵盖多个领域的基于Pytorch的计算机视觉工具箱，聚焦自监督学习和视觉transformer关键技术，覆盖主

EasyCV是一个涵盖多个领域的基于Pytorch的计算机视觉工具箱，聚焦自监督学习和视觉transformer关键技术，覆盖主流的视觉建模任务例如图像分类，度量学习，目标检测，关键点检测等。 核心特性： SOTA 自监督算法 EasyCV提供了state-of-the-art的自监督算法，有基于对比学习的算法例如 SimCLR，MoCO V2，Swav， Moby，DINO，也有基于掩码图像建模的MAE算法，除此之外我们还提供了标准的benchmark工具用来进行自监督算法模型的效果评估。 视觉Transformers EasyCV聚焦视觉transformer技术，希望通过一种简洁的方式让用户方便地使用各种SOTA的、基于自监督预训练和imagenet预训练的视觉transformer模型，例如ViT，Swin-Transformer，Shuffle Transformer，未来也会加入更多相关模型。此外，我们还支持所有timm仓库中的预训练模型. 易用性和可扩展性 除了自监督学习，EasyCV还支持图像分类、目标检测，度量学习，关键点检测等领域，同时未来也会支持更多任务领域。 尽管横跨多个任务领域，EasyCV保持了统一的架构，整体框架划分为数据集、模型、回调模块，非常容易增加新的算法、功能，以及基于现有模块进行扩展。 推理方面，EasyCV提供了端到端的简单易用的推理接口，支持上述多个领域。 此外所有的模型都支持使用PAI-EAS进行在线部署，支持自动伸缩和服务监控。 高性能 EasyCV支持多机多卡训练，同时支持TorchAccelerator和fp16进行训练加速。在数据读取和预处理方面，EasyCV使用DALI进行加速。对于模型推理优化，EasyCV支持使用jit script导出模型，使用PAI-Blade进行模型优化。 | #计算机视觉 #工具

机器学习方案手册，一本包含逐步说明为各种任务训练深度学习模型的书。内容覆盖自然语言处理、计算机视觉、图像与文字

机器学习方案手册，一本包含逐步说明为各种任务训练深度学习模型的书。内容覆盖自然语言处理、计算机视觉、图像与文字 本书分为3个部分： 自然语言处理（NLP） 计算机视觉（CV） 图片和文字 以下是本节各章的简要概述： 命名实体识别- 讨论使用conllpp 数据集识别命名实体的训练转换器模型。我们将使用的特定模型称为bert-base-cased。该模型是原始 BERT 的较小版本，并且区分大小写，这意味着它将大写和小写字母视为不同。 掩蔽语言建模- 与填空问题类似，我们训练一个模型来使用xsum 数据集预测句子中的掩蔽词。我们将使用的特定模型称为distilbert-base-uncased。这是 bert base uncased 模型的精炼版本，它以相同的方式处理大写和小写字母。 机器翻译在本章中，训练一个模型将文本从英语翻译成西班牙语。我们将在新闻评论数据集上训练来自赫尔辛基 NLP 小组的变压器模型。 总结在本章中，训练了一个多语言模型来总结英语和西班牙语句子。使用的模型是 T5 Transformer 模型的多语言版本，使用的数据集是amazon reviews dataset。 因果语言建模- 本章重点介绍训练模型以自动完成 Python 代码。为此，我们将使用用于训练代码鹦鹉模型的数据。 计算机视觉部分涵盖了该领域下最常见的任务。本节中的章节使用pytorch 闪电、pytorch 图像模型（timm）、 albumentations库和权重和偏差平台。以下是本节各章的简要概述： 图像分类- 我们将训练卷积神经网络 (CNN) 模型对动物图像进行分类。我们将使用的 CNN 模型是“resnet34”，使用的数据集是动物图像数据集。 图像分割- 本章侧重于训练模型以分割给定图像中的道路。我们将使用 U-net 模型来完成此任务。 物体检测在本章中，我们将专注于检测图像中的汽车。我们将预测与图像中包围汽车的边界框相对应的坐标。对于这个任务，我们将使用 fast-rcnn 模型。 最后一节包含训练模型以在给定图像的情况下生成标题的章节。它将有一个视觉转换器作为编码器，gpt-2 模型作为解码器。 || #电子书 #机器学习 #手册