• 企业400电话
  • 微网小程序
  • AI电话机器人
  • 电商代运营
  • 全 部 栏 目

    企业400电话 网络优化推广 AI电话机器人 呼叫中心 网站建设 商标✡知产 微网小程序 电商运营 彩铃•短信 增值拓展业务
    在Pytorch中简单使用tensorboard

    一、tensorboard的简要介绍

    TensorBoard是一个独立的包(不是pytorch中的),这个包的作用就是可视化您模型中的各种参数和结果。

    下面是安装:

    pip install tensorboard

    安装 TensorBoard 后,这些实用程序使您可以将 PyTorch 模型和指标记录到目录中,以便在 TensorBoard UI 中进行可视化。 PyTorch 模型和张量以及 Caffe2 网络和 Blob 均支持标量,图像,直方图,图形和嵌入可视化。

    SummaryWriter 类是您用来记录数据以供 TensorBoard 使用和可视化的主要入口。
    看一个例子,在这个例子中,您重点关注代码中的注释部分:

    import torch
    import torchvision
    from torchvision import datasets, transforms
    # 可视化工具, SummaryWriter的作用就是,将数据以特定的格式存储到上面得到的那个日志文件夹中
    from torch.utils.tensorboard import SummaryWriter
    
    # 第一步:实例化对象。注:不写路径,则默认写入到 ./runs/ 目录
    writer = SummaryWriter()
    
    transform = transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.5,), (0.5,))])
    trainset = datasets.MNIST('mnist_train', train=True, download=True, transform=transform)
    trainloader = torch.utils.data.DataLoader(trainset, batch_size=64, shuffle=True)
    model = torchvision.models.resnet50(False)
    
    # 让 ResNet 模型采用灰度而不是 RGB
    model.conv1 = torch.nn.Conv2d(1, 64, kernel_size=7, stride=2, padding=3, bias=False)
    images, labels = next(iter(trainloader))
    
    grid = torchvision.utils.make_grid(images)
    
    # 第二步:调用对象的方法,给文件夹存数据
    writer.add_image('images', grid, 0)
    writer.add_graph(model, images)
    writer.close()
    

    点击运行之后,我们就可以在文件夹下看到我们保存的数据了,然后我们就可以使用 TensorBoard 对其进行可视化,该 TensorBoard 应该可通过以下方式运行(在命令行):

    tensorboard --logdir=runs

    运行结果:

    把上述的地址,粘贴到浏览器就可以看到可视化的结果了,如下所示:

    接着看:

    一个实验可以记录很多信息。 为了避免 UI 混乱和更好地将结果聚类,我们可以通过对图进行分层命名来对图进行分组。 例如,“损失/训练”和“损失/测试”将被分组在一起,而“准确性/训练”和“准确性/测试”将在 TensorBoard 界面中分别分组。

    我们再看一个更简单的例子来理解上面的话:

    from torch.utils.tensorboard import SummaryWriter
    import numpy as np
    
    # 第一步:实例化对象。注:不写参数默认是 ./run/ 文件夹下
    writer = SummaryWriter()
    
    for n_iter in range(100):
        # 第二步:调用对象的方法,给文件夹存数据
        writer.add_scalar('Loss/train', np.random.random(), n_iter)
        writer.add_scalar('Loss/test', np.random.random(), n_iter)
        writer.add_scalar('Accuracy/train', np.random.random(), n_iter)
        writer.add_scalar('Accuracy/test', np.random.random(), n_iter)
    
    writer.close()
    
    点击运行(保存数据);
    在命令行输入tensorboard --logdir=run(run是保存的数据的所在路径)

    实验结果:

    好了,现在你对tensorboard有了初步的认识,也知道了怎么在pytorch中 保存模型在运行过程中的一些数据了,还知道了怎么把tensorboard运行起来了

    但是,我们还没有细讲前面提到的几个函数,因此接下来我们看这几个函数的具体使用。

    二、torch.utils.tensorboard涉及的几个函数

    2.1 SummaryWriter()类

    API:

    class torch.utils.tensorboard.writer.SummaryWriter(log_dir=None, comment='',
    purge_step=None, max_queue=10, flush_secs=120, filename_suffix='')
    

    作用:将数据保存到 log_dir 文件夹下 以供 TensorBoard 使用。

    SummaryWriter 类提供了一个高级 API,用于在给定目录中创建事件文件并向其中添加摘要和事件。 该类异步更新文件内容。 这允许训练程序从训练循环中调用直接将数据添加到文件的方法,而不会减慢训练速度。

    下面是SummaryWriter()类的构造函数:

    def __init__(log_dir=None, comment='', purge_step=None, max_queue=10, flush_secs=120, 
    filename_suffix='')

    作用:创建一个 SummaryWriter 对象,它将事件和摘要写到事件文件中。

    参数说明:

    例子:

    from torch.utils.tensorboard import SummaryWriter
    
    # 使用自动生成的文件夹名称创建summary writer
    writer = SummaryWriter()
    # folder location: runs/May04_22-14-54_s-MacBook-Pro.local/
    
    # 使用指定的文件夹名称创建summary writer
    writer = SummaryWriter("my_experiment")
    # folder location: my_experiment
    
    # 创建一个附加注释的 summary writer
    writer = SummaryWriter(comment="LR_0.1_BATCH_16")
    # folder location: runs/May04_22-14-54_s-MacBook-Pro.localLR_0.1_BATCH_16/
    

    2.2 add_scalar()函数

    API:

    add_scalar(tag, scalar_value, global_step=None, walltime=None)

    作用:将标量数据添加到summary

    参数说明:

    例子:

    from torch.utils.tensorboard import SummaryWriter
    
    writer = SummaryWriter()
    x = range(100)
    for i in x:
        writer.add_scalar('y_2x', i * 2, i)
    
    writer.close()
    

    结果:

    2.3 add_scalars()函数

    API:

    add_scalars(main_tag, tag_scalar_dict, global_step=None, walltime=None)

    作用:将许多标量数据添加到 summary 中。

    参数说明:

    例子:

    from torch.utils.tensorboard import SummaryWriter
    
    writer = SummaryWriter()
    r = 5
    for i in range(100):
        writer.add_scalars('run_14h', {'xsinx':i*np.sin(i/r),
                                        'xcosx':i*np.cos(i/r),
                                        'tanx': np.tan(i/r)}, i)
    writer.close()
    # 此调用将三个值添加到带有标记的同一个标量图中
    # 'run_14h' 在 TensorBoard 的标量部分
    

    结果:

    2.4 add_histogram()

    add_histogram(tag, values, global_step=None, bins='tensorflow', walltime=None, max_bins=None)

    作用:将直方图添加到 summary 中。

    参数说明:

    例子:

    from torch.utils.tensorboard import SummaryWriter
    import numpy as np
    
    writer = SummaryWriter()
    
    for i in range(10):
        x = np.random.random(1000)
        writer.add_histogram('distribution centers', x + i, i)
    
    writer.close()
    

    结果:

    我用到了上面的这些,关于更多的函数说明 ,请点击这里查看:https://pytorch.org/docs/stable/tensorboard.html#torch-utils-tensorboard

    到此这篇关于在Pytorch中简单使用tensorboard的文章就介绍到这了,更多相关Pytorch使用tensorboard内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

    您可能感兴趣的文章:
    • Pytorch中TensorBoard及torchsummary的使用详解
    • pytorch使用tensorboardX进行loss可视化实例
    • 教你如何在Pytorch中使用TensorBoard
    上一篇:Python抛出引发异常(raise)知识点总结
    下一篇:python异常的捕捉和补救实例详解
  • 相关文章
  • 

    © 2016-2020 巨人网络通讯 版权所有

    《增值电信业务经营许可证》 苏ICP备15040257号-8

    在Pytorch中简单使用tensorboard 在,Pytorch,中,简单,使用,