# GOSGD

**Repository Path**: liujun461/GOSGD

## Basic Information

- **Project Name**: GOSGD
- **Description**: Executed GOSGD: A Distributed Deep Learning Algorithms for an Image Classification Task- Distributed Optimization and Learning(DOL) Course Project
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: main
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 0
- **Created**: 2024-04-08
- **Last Updated**: 2024-05-20

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# DOL-项目2
执行GOSGD：分布式深度学习算法的图像分类任务 - 分布式优化和学习（DOL）课程项目

## 概述

在这个项目中，我们实现了分布式深度学习算法作为分布式优化算法的一个案例研究，包括数据并行和数据分布的情况。

我们使用CIFAR10数据集和一个卷积神经网络来完成这个任务。我们训练网络的第一步是集中式的，这是深度学习的标准做法。
然后我们实现了GoSGD算法，这是分布式深度学习中最著名的算法之一。接下来，我们测试了不同的权重矩阵。
然后，我们假设客户端之间的通信是有噪声的，并将结果与前面的情况进行比较。
最后，我们实现了另一种基于八卦的分布式优化算法SGP，并将结果与GoSGD进行比较。

在第二部分，我们考虑了数据在客户端之间分布的情况，但尽管有联邦学习，但没有协调器。对于这部分，
我们使用了GoSGD算法的一个修改版本，并以iid和均匀的方式在客户端之间分布数据。
最后，将结果与第一个项目进行比较。