在Tensorflow中,获取图中所有张量的名称

In Tensorflow, get the names of all the Tensors in a graph

我正在用 Tensorflowskflow 创建神经网络;出于某种原因,我想获得给定输入的一些内部张量的值,所以我使用 myClassifier.get_layer_value(input, "tensorName")myClassifierskflow.estimators.TensorFlowEstimator

但是,我发现很难找到张量名称的正确语法,即使知道它的名称(而且我在运算和张量之间感到困惑),所以我使用 tensorboard 绘制图形并查看为了名字。

有没有不用张量板就能枚举图中所有张量的方法?

你可以做到

[n.name for n in tf.get_default_graph().as_graph_def().node]

此外,如果您在 IPython notebook 中制作原型,您可以直接在 notebook 中显示图形,请参阅 Alexander's Deep Dream show_graph 中的函数 notebook

tf.all_variables()可以得到你想要的信息。

此外,this commit 今天在 TensorFlow Learn 中制作,它在估算器中提供了一个函数 get_variable_names,您可以使用它轻松检索所有变量名称。

有一种方法可以使用 get_operations 比 Yaroslav 的回答稍微快一些。这是一个简单的例子:

import tensorflow as tf

a = tf.constant(1.3, name='const_a')
b = tf.Variable(3.1, name='variable_b')
c = tf.add(a, b, name='addition')
d = tf.multiply(c, a, name='multiply')

for op in tf.get_default_graph().get_operations():
    print(str(op.name))

我觉得这个也行:

print(tf.contrib.graph_editor.get_tensors(tf.get_default_graph()))

但是和Salvado和Yaroslav的回答相比,不知道哪个更好

已接受的答案只为您提供了一个包含名称的字符串列表。我更喜欢一种不同的方法,它使您(几乎)可以直接访问张量:

graph = tf.get_default_graph()
list_of_tuples = [op.values() for op in graph.get_operations()]

list_of_tuples 现在包含每个张量,每个张量都在一个元组中。您也可以调整它以直接获取张量:

graph = tf.get_default_graph()
list_of_tuples = [op.values()[0] for op in graph.get_operations()]

以前的答案都很好,我只是想分享一个效用函数,我写给 select 张量从图表:

def get_graph_op(graph, and_conds=None, op='and', or_conds=None):
    """Selects nodes' names in the graph if:
    - The name contains all items in and_conds
    - OR/AND depending on op
    - The name contains any item in or_conds

    Condition starting with a "!" are negated.
    Returns all ops if no optional arguments is given.

    Args:
        graph (tf.Graph): The graph containing sought tensors
        and_conds (list(str)), optional): Defaults to None.
            "and" conditions
        op (str, optional): Defaults to 'and'. 
            How to link the and_conds and or_conds:
            with an 'and' or an 'or'
        or_conds (list(str), optional): Defaults to None.
            "or conditions"

    Returns:
        list(str): list of relevant tensor names
    """
    assert op in {'and', 'or'}

    if and_conds is None:
        and_conds = ['']
    if or_conds is None:
        or_conds = ['']

    node_names = [n.name for n in graph.as_graph_def().node]

    ands = {
        n for n in node_names
        if all(
            cond in n if '!' not in cond
            else cond[1:] not in n
            for cond in and_conds
        )}

    ors = {
        n for n in node_names
        if any(
            cond in n if '!' not in cond
            else cond[1:] not in n
            for cond in or_conds
        )}

    if op == 'and':
        return [
            n for n in node_names
            if n in ands.intersection(ors)
        ]
    elif op == 'or':
        return [
            n for n in node_names
            if n in ands.union(ors)
        ]

所以如果你有一个带有 ops 的图表:

['model/classifier/dense/kernel',
'model/classifier/dense/kernel/Assign',
'model/classifier/dense/kernel/read',
'model/classifier/dense/bias',
'model/classifier/dense/bias/Assign',
'model/classifier/dense/bias/read',
'model/classifier/dense/MatMul',
'model/classifier/dense/BiasAdd',
'model/classifier/ArgMax/dimension',
'model/classifier/ArgMax']

然后运行

get_graph_op(tf.get_default_graph(), ['dense', '!kernel'], 'or', ['Assign'])

returns:

['model/classifier/dense/kernel/Assign',
'model/classifier/dense/bias',
'model/classifier/dense/bias/Assign',
'model/classifier/dense/bias/read',
'model/classifier/dense/MatMul',
'model/classifier/dense/BiasAdd']

这对我有用:

for n in tf.get_default_graph().as_graph_def().node:
    print('\n',n)

由于 OP 要求的是张量列表而不是 operations/nodes 列表,代码应该略有不同:

graph = tf.get_default_graph()    
tensors_per_node = [node.values() for node in graph.get_operations()]
tensor_names = [tensor.name for tensors in tensors_per_node for tensor in tensors]

我会尽量总结答案:

获取图表中的所有节点(类型tensorflow.core.framework.node_def_pb2.NodeDef

all_nodes = [n for n in tf.get_default_graph().as_graph_def().node]

要获取图表中的所有 ops(键入 tensorflow.python.framework.ops.Operation

all_ops = tf.get_default_graph().get_operations()

获取图表中的所有变量(输入tensorflow.python.ops.resource_variable_ops.ResourceVariable

all_vars = tf.global_variables()

获取图表中的所有张量(类型tensorflow.python.framework.ops.Tensor

all_tensors = [tensor for op in tf.get_default_graph().get_operations() for tensor in op.values()]

获取图表中的所有占位符(输入tensorflow.python.framework.ops.Tensor

all_placeholders = [placeholder for op in tf.get_default_graph().get_operations() if op.type=='Placeholder' for placeholder in op.values()]

张量流 2

要在 Tensorflow 2 中获取图表,而不是 tf.get_default_graph(),您需要先实例化一个 tf.function 并访问 graph 属性,例如:

graph = func.get_concrete_function().graph

其中 functf.function

以下解决方案适用于 TensorFlow 2.3 -

def load_pb(path_to_pb):
    with tf.io.gfile.GFile(path_to_pb, 'rb') as f:
        graph_def = tf.compat.v1.GraphDef()
        graph_def.ParseFromString(f.read())
    with tf.Graph().as_default() as graph:
        tf.import_graph_def(graph_def, name='')
        return graph
tf_graph = load_pb(MODEL_FILE)
sess = tf.compat.v1.Session(graph=tf_graph)

# Show tensor names in graph
for op in tf_graph.get_operations():
    print(op.values())

其中 MODEL_FILE 是冻结图的路径。

摘自 here.