<jupyter_start><jupyter_text>sigmoid<jupyter_code>import tensorflow as tf
a = tf.constant([4.0, 1.0, 3.0], dtype = tf.float32) # constant: 상수 선언
a, type(a)
b = tf.keras.activations.sigmoid(a)
b
b.numpy()<jupyter_output><empty_output><jupyter_text>softmax<jupyter_code>inputs = tf.random.normal(shape=(1, 3))
inputs
outputs = tf.keras.activations.softmax(inputs)
# outputs
outputs.numpy()<jupyter_output><empty_output><jupyter_text>*  분류형의 공식 (hidden layer)  * 유니크가 3개 이상일때는 activation은 softmax를 쓴다  * 긍정과 부정처럼 분류가 2개(Binary)인 경우. 이때는 activation을 sigmoid를 쓴다---* softmax: node에서 의견을 내서 맨 마지막 output에 들어감. 해당 부분이 아무리 많은 의견이 들어와도 0과 1안으로 수렴시킴. 1에 가까운 결과 값을 찾으면 됨<jupyter_code><jupyter_output><empty_output>
{'fraction_non_alphanumeric': 0.1251778093883357, 'fraction_numerical': 0.021337126600284494, 'mean_word_length': 5.97029702970297, 'pattern_counts': {'":': 0, '<': 13, '<?xml version=': 0, '>': 13, 'https://': 0, 'lorem ipsum': 0, 'www.': 0, 'xml': 0}, 'pii_count': 0, 'substrings_counts': 0, 'word_list_counts': {'cursed_substrings.json': 0, 'profanity_word_list.json': 0, 'sexual_word_list.json': 0, 'zh_pornsignals.json': 0}}
{'chain_length': '3', 'dir': 'jupyter-structured-clean-dedup', 'id': '414143', 'license': 'Apache-2.0', 'n_tokens_mistral': 391, 'n_tokens_neox': 428, 'n_words': 68, 'path': 'diff_sigmoid_softmax.ipynb', 'repo_name': 'mmeooo/test_deeplearning', 'size': '703'}