Rijgersberg
commited on
Commit
β’
5fa70db
1
Parent(s):
2213339
Upgrade to chat-v2
Browse files
app.py
CHANGED
@@ -14,7 +14,7 @@ DEFAULT_MAX_NEW_TOKENS = 1024
|
|
14 |
MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "8192"))
|
15 |
|
16 |
if torch.cuda.is_available():
|
17 |
-
model_id = "Rijgersberg/GEITje-7B-chat"
|
18 |
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.float16, device_map="auto")
|
19 |
tokenizer = AutoTokenizer.from_pretrained(model_id)
|
20 |
|
@@ -106,9 +106,10 @@ chat_interface = gr.ChatInterface(
|
|
106 |
),
|
107 |
],
|
108 |
examples=[
|
109 |
-
["""
|
110 |
["Schrijf een nieuwsbericht voor De Speld over de inzet van een kudde geiten door het Nederlands Forensisch Instituut"],
|
111 |
["Wat zijn 3 leuke dingen om te doen als ik een weekendje naar Friesland ga?"],
|
|
|
112 |
["Kan je naar de maan fietsen?"],
|
113 |
["Wat is het belang van open source taalmodellen?"],
|
114 |
["""```
|
@@ -132,8 +133,8 @@ Twee van de wortelbedrijven werkten mee door meer informatie over de ongeoorloof
|
|
132 |
```
|
133 |
Vat bovenstaand artikel samen"""]
|
134 |
],
|
135 |
-
title="π GEITje
|
136 |
-
description="""Een eerste chatbot op basis van GEITje 7B: een groot open Nederlands taalmodel. Gemaakt voor demonstratiedoeleinden.
|
137 |
|
138 |
Generatieve taalmodellen maken fouten, controleer daarom feiten voordat je ze overneemt. GEITje-chat is niet uitgebreid getraind om _gealigned_ te zijn met menselijke waarden. Het is daarom mogelijk dat het problematische output genereert, zeker als het daartoe _geprompt_ wordt.
|
139 |
|
|
|
14 |
MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "8192"))
|
15 |
|
16 |
if torch.cuda.is_available():
|
17 |
+
model_id = "Rijgersberg/GEITje-7B-chat-v2"
|
18 |
model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.float16, device_map="auto")
|
19 |
tokenizer = AutoTokenizer.from_pretrained(model_id)
|
20 |
|
|
|
106 |
),
|
107 |
],
|
108 |
examples=[
|
109 |
+
["""Vraagje: welk woord hoort er niet in dit rijtje thuis: "auto, vliegtuig, geit, bus"?"""],
|
110 |
["Schrijf een nieuwsbericht voor De Speld over de inzet van een kudde geiten door het Nederlands Forensisch Instituut"],
|
111 |
["Wat zijn 3 leuke dingen om te doen als ik een weekendje naar Friesland ga?"],
|
112 |
+
["Met wie trad clown Bassie op?"],
|
113 |
["Kan je naar de maan fietsen?"],
|
114 |
["Wat is het belang van open source taalmodellen?"],
|
115 |
["""```
|
|
|
133 |
```
|
134 |
Vat bovenstaand artikel samen"""]
|
135 |
],
|
136 |
+
title="π GEITje 7B chat-v2 π",
|
137 |
+
description="""Een ~eerste~tweede chatbot op basis van GEITje 7B: een groot open Nederlands taalmodel. Gemaakt voor demonstratiedoeleinden.
|
138 |
|
139 |
Generatieve taalmodellen maken fouten, controleer daarom feiten voordat je ze overneemt. GEITje-chat is niet uitgebreid getraind om _gealigned_ te zijn met menselijke waarden. Het is daarom mogelijk dat het problematische output genereert, zeker als het daartoe _geprompt_ wordt.
|
140 |
|