AirFlow 在变量函数中是否有最大记录限制?
Does AirFlow have maximum records limit in variables function?
我知道 Airflow 中的变量函数使用内部元数据数据库。
AirFlow 是否对变量功能有最大记录限制?
只要有diskspace就可以不限制变量个数吗?
我在官方文档中找不到具体的描述。
您可以存储的变量数量没有限制。
Variables 是 MySQL/Postgres/MsSQL 数据库中的一个 table,您用作后端。表格没有最大记录数。
一些 table 变大可能会导致性能问题,但即使变量 table 可能不会导致此类问题。
如果您担心这一点 - 如果您愿意,可以随时使用 alternative secret backend by using this the connections/variables will not be stored on Airflow database but on other storage at your choice (for example: Google Secret Manager, Vault, etc..) You can see the full list on this doc. You can also roll your own secret backend。
我知道 Airflow 中的变量函数使用内部元数据数据库。 AirFlow 是否对变量功能有最大记录限制? 只要有diskspace就可以不限制变量个数吗? 我在官方文档中找不到具体的描述。
您可以存储的变量数量没有限制。
Variables 是 MySQL/Postgres/MsSQL 数据库中的一个 table,您用作后端。表格没有最大记录数。
一些 table 变大可能会导致性能问题,但即使变量 table 可能不会导致此类问题。
如果您担心这一点 - 如果您愿意,可以随时使用 alternative secret backend by using this the connections/variables will not be stored on Airflow database but on other storage at your choice (for example: Google Secret Manager, Vault, etc..) You can see the full list on this doc. You can also roll your own secret backend。