在Tensorflow中,获取图中所有张量的名称
In Tensorflow, get the names of all the Tensors in a graph
我正在用 Tensorflow
和 skflow
创建神经网络;出于某种原因,我想获得给定输入的一些内部张量的值,所以我使用 myClassifier.get_layer_value(input, "tensorName")
,myClassifier
是 skflow.estimators.TensorFlowEstimator
。
但是,我发现很难找到张量名称的正确语法,即使知道它的名称(而且我在运算和张量之间感到困惑),所以我使用 tensorboard 绘制图形并查看为了名字。
有没有不用张量板就能枚举图中所有张量的方法?
你可以做到
[n.name for n in tf.get_default_graph().as_graph_def().node]
此外,如果您在 IPython notebook 中制作原型,您可以直接在 notebook 中显示图形,请参阅 Alexander's Deep Dream show_graph
中的函数 notebook
tf.all_variables()
可以得到你想要的信息。
此外,this commit 今天在 TensorFlow Learn 中制作,它在估算器中提供了一个函数 get_variable_names
,您可以使用它轻松检索所有变量名称。
有一种方法可以使用 get_operations 比 Yaroslav 的回答稍微快一些。这是一个简单的例子:
import tensorflow as tf
a = tf.constant(1.3, name='const_a')
b = tf.Variable(3.1, name='variable_b')
c = tf.add(a, b, name='addition')
d = tf.multiply(c, a, name='multiply')
for op in tf.get_default_graph().get_operations():
print(str(op.name))
我觉得这个也行:
print(tf.contrib.graph_editor.get_tensors(tf.get_default_graph()))
但是和Salvado和Yaroslav的回答相比,不知道哪个更好
已接受的答案只为您提供了一个包含名称的字符串列表。我更喜欢一种不同的方法,它使您(几乎)可以直接访问张量:
graph = tf.get_default_graph()
list_of_tuples = [op.values() for op in graph.get_operations()]
list_of_tuples
现在包含每个张量,每个张量都在一个元组中。您也可以调整它以直接获取张量:
graph = tf.get_default_graph()
list_of_tuples = [op.values()[0] for op in graph.get_operations()]
以前的答案都很好,我只是想分享一个效用函数,我写给 select 张量从图表:
def get_graph_op(graph, and_conds=None, op='and', or_conds=None):
"""Selects nodes' names in the graph if:
- The name contains all items in and_conds
- OR/AND depending on op
- The name contains any item in or_conds
Condition starting with a "!" are negated.
Returns all ops if no optional arguments is given.
Args:
graph (tf.Graph): The graph containing sought tensors
and_conds (list(str)), optional): Defaults to None.
"and" conditions
op (str, optional): Defaults to 'and'.
How to link the and_conds and or_conds:
with an 'and' or an 'or'
or_conds (list(str), optional): Defaults to None.
"or conditions"
Returns:
list(str): list of relevant tensor names
"""
assert op in {'and', 'or'}
if and_conds is None:
and_conds = ['']
if or_conds is None:
or_conds = ['']
node_names = [n.name for n in graph.as_graph_def().node]
ands = {
n for n in node_names
if all(
cond in n if '!' not in cond
else cond[1:] not in n
for cond in and_conds
)}
ors = {
n for n in node_names
if any(
cond in n if '!' not in cond
else cond[1:] not in n
for cond in or_conds
)}
if op == 'and':
return [
n for n in node_names
if n in ands.intersection(ors)
]
elif op == 'or':
return [
n for n in node_names
if n in ands.union(ors)
]
所以如果你有一个带有 ops 的图表:
['model/classifier/dense/kernel',
'model/classifier/dense/kernel/Assign',
'model/classifier/dense/kernel/read',
'model/classifier/dense/bias',
'model/classifier/dense/bias/Assign',
'model/classifier/dense/bias/read',
'model/classifier/dense/MatMul',
'model/classifier/dense/BiasAdd',
'model/classifier/ArgMax/dimension',
'model/classifier/ArgMax']
然后运行
get_graph_op(tf.get_default_graph(), ['dense', '!kernel'], 'or', ['Assign'])
returns:
['model/classifier/dense/kernel/Assign',
'model/classifier/dense/bias',
'model/classifier/dense/bias/Assign',
'model/classifier/dense/bias/read',
'model/classifier/dense/MatMul',
'model/classifier/dense/BiasAdd']
这对我有用:
for n in tf.get_default_graph().as_graph_def().node:
print('\n',n)
由于 OP 要求的是张量列表而不是 operations/nodes 列表,代码应该略有不同:
graph = tf.get_default_graph()
tensors_per_node = [node.values() for node in graph.get_operations()]
tensor_names = [tensor.name for tensors in tensors_per_node for tensor in tensors]
我会尽量总结答案:
获取图表中的所有节点:(类型tensorflow.core.framework.node_def_pb2.NodeDef
)
all_nodes = [n for n in tf.get_default_graph().as_graph_def().node]
要获取图表中的所有 ops:(键入 tensorflow.python.framework.ops.Operation
)
all_ops = tf.get_default_graph().get_operations()
获取图表中的所有变量:(输入tensorflow.python.ops.resource_variable_ops.ResourceVariable
)
all_vars = tf.global_variables()
获取图表中的所有张量:(类型tensorflow.python.framework.ops.Tensor
)
all_tensors = [tensor for op in tf.get_default_graph().get_operations() for tensor in op.values()]
获取图表中的所有占位符:(输入tensorflow.python.framework.ops.Tensor
)
all_placeholders = [placeholder for op in tf.get_default_graph().get_operations() if op.type=='Placeholder' for placeholder in op.values()]
张量流 2
要在 Tensorflow 2 中获取图表,而不是 tf.get_default_graph()
,您需要先实例化一个 tf.function
并访问 graph
属性,例如:
graph = func.get_concrete_function().graph
其中 func
是 tf.function
以下解决方案适用于 TensorFlow 2.3 -
def load_pb(path_to_pb):
with tf.io.gfile.GFile(path_to_pb, 'rb') as f:
graph_def = tf.compat.v1.GraphDef()
graph_def.ParseFromString(f.read())
with tf.Graph().as_default() as graph:
tf.import_graph_def(graph_def, name='')
return graph
tf_graph = load_pb(MODEL_FILE)
sess = tf.compat.v1.Session(graph=tf_graph)
# Show tensor names in graph
for op in tf_graph.get_operations():
print(op.values())
其中 MODEL_FILE
是冻结图的路径。
摘自 here.
我正在用 Tensorflow
和 skflow
创建神经网络;出于某种原因,我想获得给定输入的一些内部张量的值,所以我使用 myClassifier.get_layer_value(input, "tensorName")
,myClassifier
是 skflow.estimators.TensorFlowEstimator
。
但是,我发现很难找到张量名称的正确语法,即使知道它的名称(而且我在运算和张量之间感到困惑),所以我使用 tensorboard 绘制图形并查看为了名字。
有没有不用张量板就能枚举图中所有张量的方法?
你可以做到
[n.name for n in tf.get_default_graph().as_graph_def().node]
此外,如果您在 IPython notebook 中制作原型,您可以直接在 notebook 中显示图形,请参阅 Alexander's Deep Dream show_graph
中的函数 notebook
tf.all_variables()
可以得到你想要的信息。
此外,this commit 今天在 TensorFlow Learn 中制作,它在估算器中提供了一个函数 get_variable_names
,您可以使用它轻松检索所有变量名称。
有一种方法可以使用 get_operations 比 Yaroslav 的回答稍微快一些。这是一个简单的例子:
import tensorflow as tf
a = tf.constant(1.3, name='const_a')
b = tf.Variable(3.1, name='variable_b')
c = tf.add(a, b, name='addition')
d = tf.multiply(c, a, name='multiply')
for op in tf.get_default_graph().get_operations():
print(str(op.name))
我觉得这个也行:
print(tf.contrib.graph_editor.get_tensors(tf.get_default_graph()))
但是和Salvado和Yaroslav的回答相比,不知道哪个更好
已接受的答案只为您提供了一个包含名称的字符串列表。我更喜欢一种不同的方法,它使您(几乎)可以直接访问张量:
graph = tf.get_default_graph()
list_of_tuples = [op.values() for op in graph.get_operations()]
list_of_tuples
现在包含每个张量,每个张量都在一个元组中。您也可以调整它以直接获取张量:
graph = tf.get_default_graph()
list_of_tuples = [op.values()[0] for op in graph.get_operations()]
以前的答案都很好,我只是想分享一个效用函数,我写给 select 张量从图表:
def get_graph_op(graph, and_conds=None, op='and', or_conds=None):
"""Selects nodes' names in the graph if:
- The name contains all items in and_conds
- OR/AND depending on op
- The name contains any item in or_conds
Condition starting with a "!" are negated.
Returns all ops if no optional arguments is given.
Args:
graph (tf.Graph): The graph containing sought tensors
and_conds (list(str)), optional): Defaults to None.
"and" conditions
op (str, optional): Defaults to 'and'.
How to link the and_conds and or_conds:
with an 'and' or an 'or'
or_conds (list(str), optional): Defaults to None.
"or conditions"
Returns:
list(str): list of relevant tensor names
"""
assert op in {'and', 'or'}
if and_conds is None:
and_conds = ['']
if or_conds is None:
or_conds = ['']
node_names = [n.name for n in graph.as_graph_def().node]
ands = {
n for n in node_names
if all(
cond in n if '!' not in cond
else cond[1:] not in n
for cond in and_conds
)}
ors = {
n for n in node_names
if any(
cond in n if '!' not in cond
else cond[1:] not in n
for cond in or_conds
)}
if op == 'and':
return [
n for n in node_names
if n in ands.intersection(ors)
]
elif op == 'or':
return [
n for n in node_names
if n in ands.union(ors)
]
所以如果你有一个带有 ops 的图表:
['model/classifier/dense/kernel',
'model/classifier/dense/kernel/Assign',
'model/classifier/dense/kernel/read',
'model/classifier/dense/bias',
'model/classifier/dense/bias/Assign',
'model/classifier/dense/bias/read',
'model/classifier/dense/MatMul',
'model/classifier/dense/BiasAdd',
'model/classifier/ArgMax/dimension',
'model/classifier/ArgMax']
然后运行
get_graph_op(tf.get_default_graph(), ['dense', '!kernel'], 'or', ['Assign'])
returns:
['model/classifier/dense/kernel/Assign',
'model/classifier/dense/bias',
'model/classifier/dense/bias/Assign',
'model/classifier/dense/bias/read',
'model/classifier/dense/MatMul',
'model/classifier/dense/BiasAdd']
这对我有用:
for n in tf.get_default_graph().as_graph_def().node:
print('\n',n)
由于 OP 要求的是张量列表而不是 operations/nodes 列表,代码应该略有不同:
graph = tf.get_default_graph()
tensors_per_node = [node.values() for node in graph.get_operations()]
tensor_names = [tensor.name for tensors in tensors_per_node for tensor in tensors]
我会尽量总结答案:
获取图表中的所有节点:(类型tensorflow.core.framework.node_def_pb2.NodeDef
)
all_nodes = [n for n in tf.get_default_graph().as_graph_def().node]
要获取图表中的所有 ops:(键入 tensorflow.python.framework.ops.Operation
)
all_ops = tf.get_default_graph().get_operations()
获取图表中的所有变量:(输入tensorflow.python.ops.resource_variable_ops.ResourceVariable
)
all_vars = tf.global_variables()
获取图表中的所有张量:(类型tensorflow.python.framework.ops.Tensor
)
all_tensors = [tensor for op in tf.get_default_graph().get_operations() for tensor in op.values()]
获取图表中的所有占位符:(输入tensorflow.python.framework.ops.Tensor
)
all_placeholders = [placeholder for op in tf.get_default_graph().get_operations() if op.type=='Placeholder' for placeholder in op.values()]
张量流 2
要在 Tensorflow 2 中获取图表,而不是 tf.get_default_graph()
,您需要先实例化一个 tf.function
并访问 graph
属性,例如:
graph = func.get_concrete_function().graph
其中 func
是 tf.function
以下解决方案适用于 TensorFlow 2.3 -
def load_pb(path_to_pb):
with tf.io.gfile.GFile(path_to_pb, 'rb') as f:
graph_def = tf.compat.v1.GraphDef()
graph_def.ParseFromString(f.read())
with tf.Graph().as_default() as graph:
tf.import_graph_def(graph_def, name='')
return graph
tf_graph = load_pb(MODEL_FILE)
sess = tf.compat.v1.Session(graph=tf_graph)
# Show tensor names in graph
for op in tf_graph.get_operations():
print(op.values())
其中 MODEL_FILE
是冻结图的路径。
摘自 here.