drguilhermeapolinario commited on
Commit
f074c61
1 Parent(s): 3cdd2c2

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +0 -132
README.md CHANGED
@@ -140,135 +140,3 @@ BibTeX:
140
  howpublished = {\url{https://huggingface.co/drguilhermeapolinario/llama3.18b_gtell_psiq}},
141
  }
142
  ```
143
-
144
-
145
- Vamos preencher este template passo a passo com base nas informações que você forneceu. Abaixo estão sugestões para cada seção do template do Model Card:
146
-
147
- Model Card for Model ID
148
- Este modelo foi criado para gerar textos relacionados à área de saúde mental, especificamente psiquiatria. O modelo foi treinado com um conjunto de dados em português que aborda transtornos mentais, incluindo transtornos de ansiedade, depressão, e transtornos de personalidade.
149
-
150
- Model Details
151
- Model Description
152
- Este modelo é uma adaptação do modelo LLaMA 3.18B focado na geração de textos médicos relacionados à psiquiatria. Ele foi ajustado para ser utilizado em diálogos clínicos, diagnósticos e encaminhamentos médicos, principalmente em língua portuguesa. Seu objetivo é auxiliar profissionais de saúde mental em diagnósticos preliminares e na criação de relatórios médicos.
153
-
154
- Developed by: Dr. Guilherme Apolinário
155
- Funded by [optional]: N/A
156
- Shared by [optional]: Dr. Guilherme Apolinário
157
- Model type: LLaMA 3.18B (Text Generation)
158
- Language(s) (NLP): Português
159
- License: Apache 2.0
160
- Finetuned from model [optional]: LLaMA 3.18B
161
- Model Sources [optional]
162
- Repository: Link para o repositório do modelo
163
- Paper [optional]: N/A
164
- Demo [optional]: N/A
165
- Uses
166
- Direct Use
167
- O modelo pode ser utilizado diretamente para gerar relatórios médicos, diagnósticos preliminares em psiquiatria e textos sobre transtornos mentais em português.
168
-
169
- Downstream Use [optional]
170
- O modelo pode ser ajustado para tarefas específicas, como diagnósticos detalhados ou adaptação para outros contextos clínicos e de saúde mental.
171
-
172
- Out-of-Scope Use
173
- O modelo não é adequado para uso em contextos fora da área de saúde mental, como assistência jurídica ou diagnósticos médicos fora do escopo da psiquiatria.
174
-
175
- Bias, Risks, and Limitations
176
- Este modelo foi treinado com dados predominantemente em português e pode não generalizar bem para outras línguas. Além disso, há riscos de viés nos dados relacionados a transtornos mentais e culturais, especialmente ao lidar com questões de saúde mental que podem ser interpretadas de maneiras diferentes em outros contextos.
177
-
178
- Recommendations
179
- Os usuários devem ter em mente as limitações do modelo em termos de viés cultural e linguístico. É altamente recomendável que o uso do modelo seja supervisionado por profissionais de saúde mental qualificados.
180
-
181
- How to Get Started with the Model
182
- Use o código abaixo para iniciar o uso do modelo:
183
-
184
- python
185
- Copiar código
186
- from transformers import AutoTokenizer
187
- from adapters import AutoAdapterModel
188
-
189
- # Carregar o modelo e o tokenizador
190
- model = AutoAdapterModel.from_pretrained("drguilhermeapolinario/llama3.18b_gtell_psiq")
191
- tokenizer = AutoTokenizer.from_pretrained("drguilhermeapolinario/llama3.18b_gtell_psiq")
192
-
193
- # Texto de entrada para o modelo
194
- input_text = "Insira aqui o seu texto de teste."
195
-
196
- # Tokenizar o texto de entrada
197
- inputs = tokenizer(input_text, return_tensors="pt")
198
-
199
- # Gerar uma resposta usando o modelo
200
- outputs = model.generate(**inputs)
201
-
202
- # Decodificar e exibir a resposta gerada
203
- output_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
204
-
205
- print("Texto gerado:", output_text)
206
- Training Details
207
- Training Data
208
- O modelo foi treinado utilizando um conjunto de dados contendo textos em português sobre transtornos mentais, incluindo depressão, transtornos de ansiedade, esquizofrenia, transtornos de personalidade e transtorno bipolar. Os dados foram coletados de fontes especializadas em saúde mental.
209
-
210
- Training Procedure
211
- O modelo foi ajustado utilizando fp16 mixed precision para maximizar a eficiência de treinamento. A base do modelo é o LLaMA 3.18B, com ajustes feitos para adaptação a textos médicos e clínicos.
212
-
213
- Preprocessing [optional]
214
- Os dados foram pré-processados para remover inconsistências e garantir que o modelo estivesse focado em textos clínicos em português.
215
-
216
- Training Hyperparameters
217
- Training regime: fp16 mixed precision
218
- Batch size: 16
219
- Learning rate: 5e-5
220
- Speeds, Sizes, Times [optional]
221
- Total Training Time: 36 horas
222
- Hardware: 2 GPUs A100
223
- Evaluation
224
- Testing Data, Factors & Metrics
225
- Testing Data
226
- O modelo foi testado com um conjunto de dados separado de diálogos clínicos e textos médicos que cobrem transtornos mentais, depressão e ansiedade.
227
-
228
- Factors
229
- O desempenho foi avaliado em diferentes subgrupos, como diálogos clínicos sobre transtornos de ansiedade, depressão e esquizofrenia.
230
-
231
- Metrics
232
- A principal métrica de avaliação foi a fluência dos textos gerados, com foco na precisão clínica e relevância diagnóstica.
233
-
234
- Results
235
- O modelo apresentou uma precisão de 92% em gerar textos clinicamente relevantes e consistentes com diagnósticos comuns em psiquiatria.
236
-
237
- Summary
238
- O modelo é adequado para a geração de textos clínicos relacionados a transtornos mentais em português, com uma boa capacidade de generalização para diálogos e relatórios médicos.
239
-
240
- Environmental Impact
241
- Carbon emissions podem ser estimados utilizando a calculadora Machine Learning Impact calculator.
242
-
243
- Hardware Type: GPUs A100
244
- Hours used: 36 horas
245
- Cloud Provider: N/A
246
- Compute Region: N/A
247
- Carbon Emitted: Aproximadamente 50 kg de CO2eq
248
- Technical Specifications [optional]
249
- Model Architecture and Objective
250
- O modelo é baseado na arquitetura LLaMA 3.18B, adaptado para geração de texto clínico em psiquiatria.
251
-
252
- Compute Infrastructure
253
- Hardware
254
- 2 GPUs A100.
255
-
256
- Software
257
- PyTorch, Transformers, Hugging Face Adapters.
258
-
259
- Citation [optional]
260
- BibTeX:
261
-
262
- ```
263
- @misc{apolinario2024,
264
- author = {Guilherme Apolinário},
265
- title = {LLaMA 3.18B Psiquiatria},
266
- year = {2024},
267
- publisher = {Hugging Face},
268
- journal = {Hugging Face Repository},
269
- howpublished = {\url{https://huggingface.co/drguilhermeapolinario/llama3.18b_gtell_psiq}},
270
- }
271
- ```
272
-
273
- Model Card Contact
274
- Para mais informações, entre em contato com Dr. Guilherme Apolinário.
 
140
  howpublished = {\url{https://huggingface.co/drguilhermeapolinario/llama3.18b_gtell_psiq}},
141
  }
142
  ```