Форум Привет

kyk писал(а): ↑Ср апр 17, 2024 3:17 pm Исходя из сообщения выше получается что, начиная с 2 мая, бесплатного не будет вобще? А будет pay-as-you-go

        {
            "name": "models/gemini-1.5-pro-latest",
            "version": "001",
            "displayName": "Gemini 1.5 Pro",
            "description": "Mid-size multimodal model that supports up to 1 million tokens",
            "inputTokenLimit": 1048576,
            "outputTokenLimit": 8192,
            "supportedGenerationMethods": [
                "generateContent",
                "countTokens"
            ],
            "temperature": 1,
            "topP": 0.95
        },

The File API lets you store up to 20GB of files per project, with each file not exceeding 2GB in size. Files are stored for 48 hours and can be accessed with your API key for generation within that time period. It is available at no cost in all regions where the Gemini API is available.

elpresidente* писал(а): ↑Ср апр 17, 2024 4:46 pm Мне не нравится что в варианте REST API https://ai.google.dev/tutorials/rest_quickstart необходимо каждый раз пересылать всю историю (context) ..

<skip>
Причем 1.5 это multimodal модель и она поддерживает conversation context, вот хороший пример

model = genai.GenerativeModel('gemini-pro')
chat = model.start_chat(history=[])

response = chat.send_message("In one sentence, explain how a computer works to a young child.")

response = chat.send_message("Okay, how about a more detailed explanation to a high schooler?")

Claude 3 : The Messages API is stateless, which means that you always send the full conversational history to the API.

kyk писал(а): ↑Вт апр 30, 2024 7:21 pm На данный момент, как соотносятся Gemini 1.5 и ChatGpt-4 API по "уровню интеллекта" если им обоим дать одинаковый контекст, скажем, 32,000 ?

kyk писал(а): ↑Вт апр 30, 2024 7:33 pm "поддерживает conversation context" --это Вы имеете ввиду следущее ? :

elpresidente* писал(а): ↑Сб май 04, 2024 10:46 amВсе API поддерживают conversation context (history).

The OpenAI API does support multi-turn conversations using the client.chat.completions.create() method. This function is designed specifically for chat-based interactions, enabling the model to keep track of and respond appropriately within the context of an ongoing conversation.

To properly use this in a multi-turn conversation, you need to manage and pass a sequence of message objects. Each message object represents one turn in the conversation, either by the user or by the system (assistant). You can continue adding new user inputs and receive responses in context by maintaining this list of messages.

messages = [{"role": "system",
             "content": "You are a data science tutor who provides short, simple explanations."}]

user_qs = ["Why is Python so popular?", "Summarize this in one sentence."]

for q in user_qs:
    print("User: ", q)
    user_dict = {"role": "user", "content": q}
    messages.append(user_dict)
    
    response = client.chat.completions.create(
    model="gpt-4",
    messages=messages
    )
    
    assistant_dict = {"role": "assistant", "content": response.choices[0].message.content}
    messages.append(assistant_dict)
    print("Assistant: ", response.choices[0].message.content, "\n")

Mad Hatter писал(а): ↑Вс май 05, 2024 5:28 amОтказался от Gemini и вернулся на ChatGPT.

kyk писал(а): ↑Сб май 04, 2024 7:09 pm В этом примере "messages" хранится и обновляется снаружи, а не внутри модели (т.е. не хранится на их севере).
То же самое, как я понимаю, и с Claude.
@elpresidente* , Вы согласны?

Mad Hatter писал(а): ↑Вс май 05, 2024 5:28 am Отказался от Gemini и вернулся на ChatGPT. Нахрен мне модель (ещё и за деньги) которая постоянно говорит "извиняйте, но это я делать не буду".

elpresidente* писал(а): ↑Вс май 05, 2024 12:33 pm

Mad Hatter писал(а): ↑Вс май 05, 2024 5:28 am Отказался от Gemini и вернулся на ChatGPT. Нахрен мне модель (ещё и за деньги) которая постоянно говорит "извиняйте, но это я делать не буду".

А что именно она отказывалась делать?
Gemini 1.0 сейцас бесплатен, v 1.5 идет с лимитом в 50 сообщений в день но на самом деле там тоже сейцас нет лимита.

Mad Hatter писал(а): ↑Вс май 05, 2024 1:52 pmНесколько раз подряд отказался давать ответы

kyk писал(а): ↑Вс май 05, 2024 5:46 pm

Mad Hatter писал(а): ↑Вс май 05, 2024 1:52 pmНесколько раз подряд отказался давать ответы

а как Gemini объяснял причину отказа? Типа из этических соображений? Или Privacy?

Mad Hatter писал(а): ↑Вс май 05, 2024 5:58 pm Ответ был: "я просто ллм модель, идите нафиг со своими вопросами"
То есть совершенно generic сообщение.

kyk писал(а): ↑Вс май 05, 2024 6:01 pm

Mad Hatter писал(а): ↑Вс май 05, 2024 5:58 pm Ответ был: "я просто ллм модель, идите нафиг со своими вопросами"
То есть совершенно generic сообщение.

Очень странно. А ты уверен, что сам не накосячил? Попробуй задать этот же вопрос to Gemini здесь на форуме

elpresidente* писал(а): ↑Чт май 09, 2024 10:25 am @kyk
Это два разных API endpоints.