如何在Tensorflow中仅使用Python制作自定义激活功能？

Question

如何在Tensorflow中仅使用Python制作自定义激活功能？假设您需要创建一个仅使用预定义的tensorflow构建块无法实现的激活功能，您可以做什么？所以在Tensorflow中可以创建自己的激活功能。但它很复杂，你必须用C ++编写它并重新编译整个tensorflow [1] [2]。有更简单的方法吗？

Answer 1

为什么不简单地使用tensorflow中已有的函数来构建新函数？

对于答案中的spiky功能，这可能如下所示

def spiky(x):
    r = tf.floormod(x, tf.constant(1))
    cond = tf.less_equal(r, tf.constant(0.5))
    return tf.where(cond, r, tf.constant(0))

我会认为这要容易得多（甚至不需要计算任何渐变），除非你想做真正奇特的事情，我几乎无法想象tensorflow不能提供构建高度复杂的激活函数的构建块。