手动模式工作流

要为您的特定VisionPro Deep Learning工具找到最佳的工具参数组合,您首先要启动参数搜索实用程序并加载工作区、流和工具。

 

启动参数搜索

独立于 VisionPro Deep Learning 启动参数搜索。

  • Windows 开始菜单

  • C:\Program Files\Cognex\VisionPro Deep Learning\3.2\Parameter Search\

注意:要启动参数搜索,您需要先退出 VisionPro Deep Learning。保存工作区以保留您一直在 Cognex Deep Learning Studio 中使用的内容,将其中止,然后启动参数搜索。

 

在启动参数搜索之前,您需要确保您的 VisionPro Deep Learning 工作区已准备好进行搜索。必须标注工作区中的所有图像,工作区必须具有包含足够图像的训练集,并且必须选择工作区中工具的模式和架构,然后才能将此工作区导入参数搜索。

 

启动参数搜索实用程序后,您将进入如下所示的屏幕。在此屏幕上,您可以导入要针对许多参数集进行测试的工作区、流和工具。

 

 

加载工作区、流、工具

请按照以下步骤加载工作区、流和要搜索其工具参数值的工具。

 

  1. 路径栏的右侧,单击 按钮并将路径设置为包含您用于搜索的工作区目录。

  2. 一旦设置了工作区的路径,该路径下存在的所有工作区都将加载到工作区窗格中。选择您将在窗格中使用的特定工作区。加载的工作区中包含所有已配置的流和工具。

    • 如果要将其他路径的工作区添加到当前路径,可以直接使用 按钮从其他目录导入工作区。导入的工作区必须是VisionPro Deep Learning工作区存档文件 (.vwsa) 格式,该格式是在从 VisionPro Deep Learning 文件导出工作区时创建的。在“上传工作区”对话框中,您可以选择此 VisionPro Deep Learning 工作区存档文件以将此工作区导入当前路径。导入的工作区将位于工作区窗格中,并复制并放置在当前路径的物理目录下。

  3. 窗格中选择将使用的流。

  4. 选择将在工具链窗格中使用的工具。选择工具后,其详细信息将显示在工具信息窗格中。由于参数搜索中不支持适应模式,您不能选择采用适应模式的工具。

  5. 确认工具信息后,单击确定继续设置要为此工具测试的参数。

小心: 如果您使用流/工具下拉菜单更改当前流/工具,则参数配置(要搜索的参数集的值)和搜索当前加载的流和工具的搜索结果将被删除。在切换到另一个工具或流之前单击保存
小心: 在单击主页返回主屏幕之前,单击保存保存当前的参数配置。返回主屏幕将重置所有配置。

 

选择手动模式

在加载所需的工作区、流和工具后,您需要选择搜索模式。转到导航选项卡并单击 手动。手动模式对所选参数值的每个组合进行测试,并返回所有结果。

 

 

设置参数

在选择了搜索模式后,您需要选择一组要测试的参数及其值范围。有关参数搜索中支持工具参数的更多详细信息,请参阅参数列表

 

如果您激活了手动模式,以下参数将被选为默认值。您可以修改这些参数的值,将其删除,或添加要搜索的其他参数。

  • 聚焦 工具(红色分析绿色分类蓝色定位蓝色读取

    • 网络模型、时期数、特征尺寸

  • 红色分析高细节

    • 网络模型、时期数、像素块大小、垂直翻转、水平翻转、旋转 90°

  • 绿色分类高细节

    • 网络模型、时期数、垂直翻转、水平翻转、旋转 90°

  • 绿色分类高细节快速

    • 时期数

 

 

选择参数

搜索页面上,通过选中复选框选择要运行搜索所使用的参数。您可以添加 1 个或多个要测试的参数。

 

 

如果之前保存的参数搜索数据 XML 文件包含一组要搜索的参数及其值,请单击加载以将其加载到搜索页面上。

注意: 有关每个工具的可用参数的详细信息,请参阅每个工具的“训练神经网络”一节。

 

赋值范围

列中,输入所选参数的值范围。单击列中的每个单元格以修改参数的值。主要有 3 种方式提供每个参数的值(或值范围)。

 

 

  1. 在单元格中键入特定值 (Int, Double)
    • 要为特定参数添加多个值,请使用空格(空格键)作为每个值之间的分隔符。
  2. 启用单元格中的复选框 (Enum, Boolean, String)
    • 对于某些参数的值(例如:网络模型),启用复选框 以选择要在搜索中测试的值。
  3. 通过输入表单填写单元格 (Size, Interval, String, Dictionary)
小心: 在搜索期间,未在搜索中选择的工具参数的值将设置为搜索期间已在加载的工作区中设置的默认值。
注意:对于手动模式,如果对参数列只选择处理参数,则当前加载的工具必须是已经训练过的工具,因为每个处理参数都只能在经过训练的工具上进行测试。如果所有选定的参数都是处理参数,则在搜索过程中会跳过训练。

 

如果您完成了单元格的编辑并想要修复参数的值范围,请单击复选按钮。如果要修改参数的插入值,请再次单击要修改的单元格。输入值后,如果单元格以红色勾勒出来,则值输入语法有错误。

 

提示:参数列表上的表格中描述了参数列表及其范围和支持的类型。

设置选项

设置搜索选项(如果需要)。

 

 

选项 说明
试验 设置此搜索的试验次数。请注意,多次迭代将提供更多的统计分析,例如均值、中位数和标准差,这些项目在图形页面的结果表中显示,但也需要更多的时间来执行。
筛选 使用筛选语法在结果和图表页面上显示筛选结果(结果表、数据库概述、图形)。输入筛选条件短语并按 Enter。筛选条件语法将应用于结果表和图形。有关筛选条件语法的详细信息,请参阅筛选条件语法。在应用了筛选条件语法后,应用筛选条件筛选出的视图的搜索结果将不会显示,因为这些视图未被处理。训练完成后,您将无法更改筛选条件语法。
自动阈值
(红色分析)

启用自动阈值可自动设置阈值(T1 和 T2 值)以优化“结果”页面中的结果。有关更多详细信息,请参阅配置处理参数

优化的 GPU 内存 通过提供要使用的内存量来启用优化的 GPU 内存。如果您的工具是聚焦模式工具,则可以启用优化的 GPU 内存以提高效率。当您的工具是高细节或高细节快速工具时,优化的 GPU 内存将自动禁用以提高性能。
保存工具

搜索完成后,将当前加载的工具与搜索结果一起保存。如果您想在搜索完成后导出参数配置和使用这些配置训练的训练工具(训练网络),您应该启用此选项。训练工具将导出到包含参数搜索数据 XML 文件的目录下。

 

  • 如果在启用保存工具的情况下单击开始,您将选择目标目录以导出参数搜索数据 XML 文件。保存的工具将放置在您的目标目录下(“./saved_tools/PARAMETER_SEARCH_DATA_XML_FILE_NAME/”)。导出的工具可以从 VisionPro Deep Learning 导出。每个保存的工具的文件名都采用“uuid”格式(例如:6ffa1800-376a-4bf7-a5a4-64bc4e8c854e)
  • 每个工具的文件扩展名是:
    .vgta:绿色分类
    .vrta:红色分析
    .vbta:蓝色定位/读取

 

另存为参数搜索数据 XML 文件

单击保存以保存参数搜索数据 XML 文件。如果您尚未保存文件并按开始,系统将自动提示您保存参数搜索数据 XML 文件。您将选择保存 XML 文件的路径。保存后,参数搜索数据 XML 文件将包含您输入的参数配置,搜索完成后,它还将包含显示在结果图形页面中的搜索结果。

 

警告: 保存的参数搜索数据 XML 文件将不包含作为搜索结果的训练网络(经过训练的工具) 。因此,您不能将应用到工作区与“结果”页面中加载的参数搜索数据 XML 文件一起使用。要将保存的搜索结果应用到您的工作区,您必须在开始搜索之前通过启用保存工具复选框来保存包含训练网络的工具文件来保存训练网络。您可以将这些工具文件加载到 VisionPro Deep Learning 的工作区中。

 

开始搜索

单击开始以开始搜索。搜索的进度将显示在页面底部。搜索开始后,该实用程序将在屏幕下方的窗格中指示每个参数组合的搜索进度。

注意:测试的时长取决于 GPU(和 GPU 的数量)、参数数量、每个参数的参数设置数量、图像的数量以及测试运行的次数。每个额外的参数和值的组合都会导致实验执行时间呈指数级延长。

 

如果单击暂停暂时停止搜索并再次单击开始,则将从暂停时的测试重新开始搜索。搜索完成后,您可以查看结果以确定“结果”选项卡上的最佳参数组合。请注意,与自动模式不同,您可以实时检查已完成试验的结果,而无需暂停或停止在“结果”选项卡上的搜索。在暂停或停止搜索后,还可以查看完成试验的结果。

 

 

查看搜索结果

搜索完成后,您可以在“结果”页面上调查参数搜索的结果。搜索结果显示在结果表中。自动模式显示几个最佳结果,而手动模式显示每个参数组合的所有结果。该表的每一行描述了被测试的每个参数组合的值,以及测试结果(F-得分、AUC 等),它们因工具类型而异。对于此表的每一行,您都可以投影一个数据库概述,该概览使用混淆矩阵来制定搜索结果。

小心: 在单击主页返回主屏幕之前,单击保存以保存当前的参数搜索结果。返回主屏幕将重置所有结果。

 

结果表统计

结果表描述了每种工具类型的结果统计信息:

红色分析 绿色分类 蓝色定位和蓝色读取

精度(混淆矩阵)

F-得分

已找到(特征)

召回(混淆矩阵)

F-得分(平均)

精度(特征)

F-得分(混淆矩阵)

AUC

召回(特征)

精度(区域面积指标)

速度 [ms]

F-得分(特征)

召回(区域面积指标)

  已找到(模型)

F-得分(区域面积指标)

精度(模型)
AUC

召回(模型)

速度 [ms]

F-得分(模型)

  特征位置距离
特征尺寸差别
特征角度差别
速度 [ms]

 

红色分析结果

红色分析工具的搜索结果包括区域面积指标(按像素计算的精度、召回、F-得分,仅适用于红色分析监督、红色分析高细节)和混淆矩阵的指标(从混淆矩阵项计算出的精度、召回、F-得分)。有关搜索结果的解释,请参见区域面积指标混淆矩阵

 

 

绿色分类结果

绿色分类工具的搜索结果包括分类性能指标,包括 F-得分(平均)和 F-得分。有关详细信息,请参阅解释结果。F-得分(平均)是为每个类计算的 F-得分的平均值。

 

 

蓝色定位/蓝色读取结果

蓝色定位/读取工具的搜索结果包括特征指标(按特征计算的精度、召回、F-得分)和模型指标(按模型计算的精度、召回、F-得分)。有关详细信息,请参阅解释结果/解释结果

 

还有其他蓝色定位/读取结果指标,目前仅显示在参数搜索实用程序中。

  • 特征尺寸差别

  • 特征角度差别

  • 特征位置距离

 

对于蓝色定位/读取,如果存在相对接近的标注特征,则认为已正确找到(标记)找到的特征。对于每个正确找到的特征,您可以通过将正确找到的特征与标注的特征进行比较来计算位置距离、角度差和大小差。结果表中报告的特征位置距离、特征角度差和特征尺寸差分别为“平均特征位置距离”、“平均角度差”和“平均尺寸差”(均方根平均值),这是分别计算所有正确找到的特征得到的结果。

 

指标 说明
特征尺寸差别 正确找到的特征和标注的特征之间的特征尺寸差
特征角度差别 正确找到的特征和标注的特征之间的特征角度差
特征位置距离 正确找到的特征和标注的特征之间的特征位置差

 

 

查看工作流

  1. 在单击结果表中的行时,将选择一行,并且与该行的搜索结果对应的带有混淆矩阵的数据库概述将显示在屏幕底部的最左侧。数据库概述与 Cognex Deep Learning Studio 中的相同。对于红色分析工具,可以应用计数下拉选项(视图、未训练视图、区域、未训练区域)来按每个方面投影数据库概述。

     

    计数为视图时的混淆矩阵 F-得分

     

    计数为未训练视图时的混淆矩阵 F-得分

    注意:有关每个选项的详细信息,请参阅混淆矩阵

     

  2. 单击固定以固定行的数据库概述。最多可同时修复 2 个数据库概述。单击图标以从下面的面板中释放数据库概述。

    • 每个选定行的数据库概述将被固定在下方面板的最左侧,1 个或多个固定的数据库概述将被固定在其右侧。

    • 如果单击每个固定的数据库概述上的图标,它将从面板中释放。

       

  3. 选择结果表中的行后,单击应用到工作区以在加载的工作区中应用选定的参数集和经过训练的工具(神经网络模型)。当前加载的工作区中的工具参数值和工具本身将替换为结果表中选定行中的参数值。

    在加载的工作区中应用后,您现在可以访问该工具及其训练结果VisionPro Deep Learning。在Cognex Deep Learning Studio中,打开工作区并处理该工具,您将获得在参数搜索中产生的相同结果。

    注意:由于之前保存的参数搜索数据 XML 文件不包含经过训练的网络(经过训练的工具),因此您无法将应用到工作区与加载的参数搜索数据 XML 文件一起使用。要将之前保存的搜索结果应用到您的工作区,您必须在开始搜索之前通过启用“搜索”页面中的保存工具复选框来保存包含经过训练的网络的工具文件来保存经过训练的网络。

     

    示例:按 F-得分(区域面积指标)对结果进行排序红色分析聚焦监督,并将最佳结果与参数组合(5% 亮度、10% 缩放、20 时期数)和产生此结果的训练神经网络一起应用于当前工具。

     

    单击应用到工作区以将此工具应用到 VisionPro Deep Learning

     

    示例:启动VisionPro Deep Learning,加载工作区和工具,并处理工具以查看应用结果和参数组合。

     

     

  4. 单击保存以将搜索配置和搜索结果导出为参数搜索数据 XML 文件。单击加载将先前配置和保存的参数搜索数据 XML 文件导入到结果页面。它可以用作新搜索的基础。

    • 请注意,搜索结果表与参数搜索数据 XML 文件一起保存,而经过训练的网络不与它一起保存。

       

  5. 如果您在开始搜索之前在搜索页面中启用了保存工具复选框,则包含搜索结果的工具将在搜索后保存。每个保存的工具保存与测试的每组参数值相对应的经过训练的神经网络模型。

    • 例如,如果您有 10 组参数(结果表中有 10 行),则 10 个工具将作为 10 个文件保存到包含参数搜索数据 XML 文件的目录中。

 

探索图形

图形页面中,搜索结果以结果表的形式显示,这与结果页面中的有些不同。该表描述了相同的结果,但这些结果是使用在所有搜索试验中计算出的一些统计度量值提供的。图形页面仅支持手动模式。

如果“搜索中的试验”页面设置为 1 以上,各列将在所有试验的“指标”下拉列表中显示所选指标的最小值、最大值、均值、标准偏差、中值、中值绝对偏差(如果为参数提供了这些值的话)。例如,假定提供以下搜索配置:

  • 工具:红色分析聚焦监督

  • 参数集:亮度、缩放、时期数

  • 参数范围

    • 亮度:0%, 10%

    • 缩放:0%, 10%

    • 训练期计数:25, 50

  • 试验:3

 

如果结果表第一行的亮度、缩放、时期数值为 {Luminance:0%, Scale 0%, Epoch Count:25} 并且如果在指标下拉列表中将性能指标设置为混淆矩阵的 F-得分,则在亮度为 0%、缩放为 10% 且时期数为 25 的第一个低点时,结果表将显示 3 次试验的混淆矩阵 F-得分的最小值、最大值、均值、标准偏差、中位数、中位数绝对偏差。有关混淆矩阵的 F-得分的详细信息,请参阅混淆矩阵

小心: 在单击主页返回主屏幕之前,单击保存以保存当前的参数搜索结果和图形。返回主屏幕将重置所有结果和图形。

 

除此之外,还给出了描述 3 个或更多变量(维度)并描述搜索结果的 2D 轮廓图。特别是,这些图表根据所有试验的统计搜索结果说明了所选参数之间的关系。

要在图形上绘制搜索结果,首先要根据搜索中使用的参数设置图形的 x 轴和 y 轴。使用每个参数的下拉列表,分别将所需参数设置为 x 轴和 y 轴。

设置 2 个轴后,您就可以查看性能指标的值如何随 2 个轴的值变化。图形上绘制的数值基本上是在您滚动指标下拉列表时出现的每个性能指标的值。另外,在度量下拉列表中,您需要选择一个统计度量,该度量是针对所选指标的所有试验计算得出的。度量下拉列表中支持的度量列表如下所示:

  • 均值:指标在所有搜索试验中的均值

  • 标准偏差:指标在所有搜索试验中的标准偏差

  • 中位数绝对偏差:指标在所有搜索试验中的中位数绝对偏差

  • 中位数:指标在所有搜索试验中的中位数

 

选择 MAD 作为统计测量

 

例如,如果您将亮度设置为 x 轴,将缩放设置为 y 轴,在指标中选择 F-得分,在度量中选择中位数绝对偏差,则所有试验的 F-得分的中位数绝对偏差值将按照亮度(x 轴)和缩放(y 轴)值的变化绘制在图形上。

如果有 3 个或更多参数,x 轴和 y 轴的参数可以在它们之间互换。通过为每个参数的下拉列表选择特定值,也可以将 x 轴和 y 轴以外的参数值投影到图形上。

注意:指标下拉列表中显示的元素因每种工具类型(红色分析、绿色分类、蓝色定位/读取)而异。

 

探索工作流

  1. 指标下拉列表中选择 F-得分,这将在下方显示 F-得分的结果表。列显示参数值以及所有试验的 F-得分的均值、标准偏差、中值、中值绝对偏差、最小值和最大值(如果提供参数的这些值的话)。

    • 对于红色分析工具,如果您在指标下拉列表中选择了混淆矩阵指标,则可以应用计数下拉列表(视图、未训练视图、区域、未训练区域)来按每个方面投影图形。有关每个选项的详细信息,请参阅混淆矩阵

    • 对于蓝色定位/读取工具,如果您在指标下拉列表中选择精度、召回和 F-得分,则可以应用计数下拉列表(特征,模型)来投影特征的精度、召回、F-得分或图形中模型的精度、召回、F-得分。有关详细信息,请参阅解释结果/解释结果

       

  2. 度量下拉列表中提供度量(均值、标准偏差、中值或中值绝对偏差),并设置 x 轴和 y 轴的参数。

    • 如果您之前在“搜索”页面的试验栏中设置了 1 个以上的试验,则会有许多列对应于每个试验的 F-得分(试验 1、试验 2、试验 3、...、试验 N)。为指标选择的度量是针对所有试验而计算出的。
    • 请注意,仅使用 1 次试验进行测试时,将不会返回标准偏差、中位数绝对偏差、最小值或最大值的结果。

     

  3. 在每个下拉列表中设置 x 轴和 y 轴以外的参数值。然后,相应的轮廓图将显示出来。

  4. 如果您已完成对结果表和图形的调查,并找到一组最佳参数值,则可以返回结果页面,选择描述结果表中找到的最佳集合的行,然后单击应用到工作区,在加载的工作区中应用选定的集合和经过训练的工具(神经网络模型)。当前加载的工作区中的工具参数值和工具本身将替换为结果表中选定行中的参数值。