Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Andrey Strelnikov
Reactions: 4
Сообщения: 73
Зарегистрирован: Чт июл 28, 2022 10:43 am

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение Andrey Strelnikov »

elpresidente* писал(а): Вт фев 27, 2024 8:15 am На Win, в WSL2 ничего делать не надо.
Все-таки лишние движения. Конечно можно найти всякие инструкции как бекапить инстансы в WSL2, вычищать и прочее.
А можно просто поставить виртуалки.
Идите в зеркало! (C) Andrey Strelnikov
elpresidente*
Site Admin
Reactions: 1136
Сообщения: 3538
Зарегистрирован: Сб май 14, 2022 5:03 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение elpresidente* »

Andrey Strelnikov писал(а): Вт фев 27, 2024 10:45 am
elpresidente* писал(а): Вт фев 27, 2024 8:15 am На Win, в WSL2 ничего делать не надо.
Все-таки лишние движения. Конечно можно найти всякие инструкции как бекапить инстансы в WSL2, вычищать и прочее.
А можно просто поставить виртуалки.
Собственно так и делали до появления WSL2, потом стало без надобности да и неудобно переключать все время. По инструкции и бекаа не совсем понял.
1 Изображение
kyk
Reactions: 546
Сообщения: 6997
Зарегистрирован: Ср июн 15, 2022 6:54 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение kyk »

elpresidente* писал(а): Вт фев 27, 2024 10:50 amСобственно так и делали до появления WSL2, потом стало без надобности да и неудобно переключать все время.
kyk
Reactions: 546
Сообщения: 6997
Зарегистрирован: Ср июн 15, 2022 6:54 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение kyk »

elpresidente* писал(а): Вт фев 27, 2024 8:15 amНа Win, в WSL2 ничего делать не надо.
в том смысле, что это там всё автоматом?
Andrey Strelnikov
Reactions: 4
Сообщения: 73
Зарегистрирован: Чт июл 28, 2022 10:43 am

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение Andrey Strelnikov »

elpresidente* писал(а): Вт фев 27, 2024 10:50 am
Andrey Strelnikov писал(а): Вт фев 27, 2024 10:45 am
Все-таки лишние движения. Конечно можно найти всякие инструкции как бекапить инстансы в WSL2, вычищать и прочее.
А можно просто поставить виртуалки.
Собственно так и делали до появления WSL2, потом стало без надобности да и неудобно переключать все время. По инструкции и бекаа не совсем понял.
Инструкции? Ну вот перенести на другой физический диск, комп, удалить и прочее. Надо гуглить.

а реально у кого-то стоит WSL2 на рабочем или домашнем компе какое-то продолжительное время и используется на разных проектах? Не связанных со статейками от MS? Кроме Docker, ML и еще максимум пары тем?
Идите в зеркало! (C) Andrey Strelnikov
kyk
Reactions: 546
Сообщения: 6997
Зарегистрирован: Ср июн 15, 2022 6:54 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение kyk »

Ксати, в последние 2-3 месяца ChatGpt Plus web chat сервис по месячной подписке за 20 долларов начал курвиться c моделью GPT-4. В том смысле, что OpenAI видимо увеличиват профит и снижают и ограничивают качество сервиса. Люди жалуюся что ChatGpt-4 выполняет их задания не до конца.

Программёр жалуются, что вчера попросил ChatGpt Plus (with Model GPT-4) написать script для 4х фукций, а СhatGpt сделал только одну и говорит, а остальные, мол, делай сам. Причём, программёр говроит, что раньше, буквально ещё пару месяцев назад, ChatGpt доводил задачу до конца, т.е. писал код для всех 4х функций

Мой пример: Я попросил ChatGpt Plus сгенерировать 10 case studies on certain topics and to save it to the MARP format. ChatGpt Plus говорит мол, sure I will generate 10 slides. Но по факту генерит только первые 3, а в остальных 7ми вместо содержания пишет {placeholder} и говорит мне, мол, сделай остальное сам.

Интересно, как с этим обстоит дело при доступе по OpenAi API и работе с GPT-4 model?
Будет она генерировать мне все 10 слайдов как я хочу? Или же сделает всего 3 слайда как ChatGpt Plus?
elpresidente*
Site Admin
Reactions: 1136
Сообщения: 3538
Зарегистрирован: Сб май 14, 2022 5:03 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение elpresidente* »

kyk писал(а): Вт фев 27, 2024 11:18 am
elpresidente* писал(а): Вт фев 27, 2024 8:15 amНа Win, в WSL2 ничего делать не надо.
в том смысле, что это там всё автоматом?
Да https://docs.nvidia.com/cuda/wsl-user-guide/index.html
Once a Windows NVIDIA GPU driver is installed on the system, CUDA becomes available within WSL 2. The CUDA driver installed on Windows host will be stubbed inside the WSL 2 as libcuda.so, therefore users must not install any NVIDIA GPU Linux driver within WSL 2.
elpresidente*
Site Admin
Reactions: 1136
Сообщения: 3538
Зарегистрирован: Сб май 14, 2022 5:03 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение elpresidente* »

Andrey Strelnikov писал(а): Вт фев 27, 2024 11:25 am а реально у кого-то стоит WSL2 на рабочем или домашнем компе какое-то продолжительное время и используется на разных проектах? Не связанных со статейками от MS? Кроме Docker, ML и еще максимум пары тем?
Дома использую с момента появления этого сайта :) На работе где-то с 2020 года если мне не изменяет память. В моей комманде WSL2 используется практически с момента релиза, WSL (первый) не пошел.
WSL vs WSL2 https://learn.microsoft.com/en-us/windo ... e-versions
elpresidente*
Site Admin
Reactions: 1136
Сообщения: 3538
Зарегистрирован: Сб май 14, 2022 5:03 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение elpresidente* »

kyk писал(а): Вт фев 27, 2024 11:35 am Интересно, как с этим обстоит дело при доступе по OpenAi API и работе с GPT-4 model?
Та-же самая проблема, они явно подкрутили модель. Приходится резать на куски / делать итерации в коде.
kyk
Reactions: 546
Сообщения: 6997
Зарегистрирован: Ср июн 15, 2022 6:54 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение kyk »

elpresidente* писал(а): Вт фев 27, 2024 12:22 pmПриходится резать на куски / делать итерации в коде.
типа разбивать задачу на части и требовать выполнить каждую часть?

Но как это поможет в моём случае? Что нужно добавить в prompt чтобы ChatGpt генерировал мне все 10 слайдов (а не первы 3-и)?
kyk писал(а): Вт фев 27, 2024 11:35 am Я попросил ChatGpt Plus сгенерировать 10 case studies on certain topics and to save it to the MARP format. ChatGpt Plus говорит мол, sure I will generate 10 slides. Но по факту генерит только первые 3, а в остальных 7ми вместо содержания пишет {placeholder} и говорит мне, мол, сделай остальное сам.
elpresidente*
Site Admin
Reactions: 1136
Сообщения: 3538
Зарегистрирован: Сб май 14, 2022 5:03 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение elpresidente* »

Не надо жадничать, попросите три раза по три вместо одного по десять.
Аватара пользователя
Mad Hatter
⭐ Top 5 most interesting users
Reactions: 2023
Сообщения: 10273
Зарегистрирован: Пн июн 13, 2022 7:22 am

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение Mad Hatter »

kyk писал(а): Вт фев 27, 2024 11:35 am Ксати, в последние 2-3 месяца ChatGpt Plus web chat сервис по месячной подписке за 20 долларов начал курвиться c моделью GPT-4. В том смысле, что OpenAI видимо увеличиват профит и снижают и ограничивают качество сервиса. Люди жалуюся что ChatGpt-4 выполняет их задания не до конца.

Программёр жалуются, что вчера попросил ChatGpt Plus (with Model GPT-4) написать script для 4х фукций, а СhatGpt сделал только одну и говорит, а остальные, мол, делай сам. Причём, программёр говроит, что раньше, буквально ещё пару месяцев назад, ChatGpt доводил задачу до конца, т.е. писал код для всех 4х функций

Мой пример: Я попросил ChatGpt Plus сгенерировать 10 case studies on certain topics and to save it to the MARP format. ChatGpt Plus говорит мол, sure I will generate 10 slides. Но по факту генерит только первые 3, а в остальных 7ми вместо содержания пишет {placeholder} и говорит мне, мол, сделай остальное сам.

Интересно, как с этим обстоит дело при доступе по OpenAi API и работе с GPT-4 model?
Будет она генерировать мне все 10 слайдов как я хочу? Или же сделает всего 3 слайда как ChatGpt Plus?
А Gemini?
kyk
Reactions: 546
Сообщения: 6997
Зарегистрирован: Ср июн 15, 2022 6:54 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение kyk »

elpresidente* писал(а): Вт фев 27, 2024 12:50 pm Не надо жадничать, попосите три раза по три вместо одного по десять.
К примеру мне нужно 15 слайдов. Мой original Prompt:
Create 15 Short Provocative Ethics Cases: Each case revolves around video gaming addiction for children and youth.

Ethics Analysis: For each case, a detailed ethics analysis is presented on a separate slide following the case and question slide. This analysis provides a two-paragraph discussion on the ethical considerations related to the case, offering insights and fostering a deeper understanding of the issues.

Formatting and Structure for MARP Presentation: The content is formatted specifically for MARP, a Markdown presentation tool, ensuring that it can be easily converted into slides for a presentation.
Если я повторю инструкцию "Create 3 Short Provocative Ethics Cases: Each case revolves around video gaming addiction for children and youth..." 5 раз , то есть вероятность что ChatGPT будет генерировать одну и ту же тройку слайдов все 5 раз.
Т.е. у меня получится 5 копий комплекта из трёх слайдов.

Либо и вовсе откажется генерировать более одного раза, скажет, мол остальное делай сам руками по аналогии.

elpresidente* писал(а): Вт фев 27, 2024 12:22 pmТа-же самая проблема, они явно подкрутили модель.
Кроме OpenAI API, какие у них есть конкуренты GPT-4 с доступом по API?
kyk
Reactions: 546
Сообщения: 6997
Зарегистрирован: Ср июн 15, 2022 6:54 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение kyk »

Mad Hatter писал(а): Вт фев 27, 2024 12:55 pmА Gemini?
сегодня только что попробовал. Использовал те же инструкции что и для OpenAI выше и попросил Gemini сделать 10 текстовых слайдов в формате MARP

Та же самая нехорошая ситуация что и с ChatGpt-4. Gemini показала на экране текст для всех 10ти слайдов, но когда я попросил конвертировать это в MARP format, то Gemini конвертировала только 2 из 10 и после говорит следущее:
Gemini писал(а):... [Additional Cases 3-10 Would Follow in the Same Structure]
Let me know if you'd like me to provide the remaining cases! I'm happy to tailor them to specific areas of ethical inquiry you'd like to emphasize.
kyk писал(а):You must integrate MARP formatting directives and speaker notes into all the 10 cases now
Gemini писал(а): Follow the same structure for Cases 3 - 10, each with a Case slide formatted for MARP, followed immediately by its associated Ethics Analysis slide (including speaker notes).
это Gemini мне предлагает руками сделать слайды 3-10.

Получается, что такое нехорошее поведение моделей специально закладывают их хозяева, как в ChatGPT, так и в Gemini. Таким образом, это не баг, а (вредная) фича =@
Аватара пользователя
Mad Hatter
⭐ Top 5 most interesting users
Reactions: 2023
Сообщения: 10273
Зарегистрирован: Пн июн 13, 2022 7:22 am

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение Mad Hatter »

Кругом обман!
kyk
Reactions: 546
Сообщения: 6997
Зарегистрирован: Ср июн 15, 2022 6:54 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение kyk »

elpresidente* писал(а): Вт фев 27, 2024 12:22 pm Та-же самая проблема, они явно подкрутили модель.
Вы про ChatGPT Plus GPT-4 говорите или про OpenAI API GPT-4 (там несколько GPT-4 моделей) ?

А в Microsoft Asure GPT-4 тоже подкрутили?
Если пользовать Microsoft Asure GPT-4 API
Можно ли там самому контролировать поведение of Microsoft Asure GPT-4 в том смысле чтобы она полностью и до конца выполняла инструкции пользователя?
elpresidente*
Site Admin
Reactions: 1136
Сообщения: 3538
Зарегистрирован: Сб май 14, 2022 5:03 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение elpresidente* »

kyk писал(а): Ср фев 28, 2024 5:45 am
elpresidente* писал(а): Вт фев 27, 2024 12:22 pm Та-же самая проблема, они явно подкрутили модель.
Вы про ChatGPT Plus GPT-4 говорите или про OpenAI API GPT-4 (там несколько GPT-4 моделей) ?

А в Microsoft Asure GPT-4 тоже подкрутили?
Если пользовать Microsoft Asure GPT-4 API
Можно ли там самому контролировать поведение of Microsoft Asure GPT-4 в том смысле чтобы она полностью и до конца выполняла инструкции пользователя?
Это одни и те-же модели, и они ведут себя одинаково по моим наблюдениям.Вот пример чистого API viewtopic.php?t=4038. Мне пришлось написать Python код для таких вещей. ChatGPT Plus у меня никогда не было, мне проще использовать их API.
elpresidente*
Site Admin
Reactions: 1136
Сообщения: 3538
Зарегистрирован: Сб май 14, 2022 5:03 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение elpresidente* »

kyk писал(а): Вт фев 27, 2024 1:06 pm
elpresidente* писал(а): Вт фев 27, 2024 12:22 pmТа-же самая проблема, они явно подкрутили модель.
Кроме OpenAI API, какие у них есть конкуренты GPT-4 с доступом по API?
Пробовал Gemini, он сейцас бесплатен. Планирую добавить Gemini бота когда появится время. Мне показалось что он уступает GPT-4.
kyk
Reactions: 546
Сообщения: 6997
Зарегистрирован: Ср июн 15, 2022 6:54 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение kyk »

elpresidente* писал(а): Ср фев 28, 2024 9:03 amпример чистого API viewtopic.php?t=4038.
повторяя prompt "Continue", я заставил ChatGPT сделать все 15 cases.

Как автоматизировать подобные задачи в том смысле, чтобы заставлять ChatGPT доводить ответ до конца?

Какой нужен алгоритм и Python code чтобы получить все 15 cases в виде одного файла?
elpresidente*
Site Admin
Reactions: 1136
Сообщения: 3538
Зарегистрирован: Сб май 14, 2022 5:03 pm

Re: Win10 WSL2 Ubuntu + OpenAI GPT-4 api

Сообщение elpresidente* »

Попросите ChatGPT написать желаемый код, он справится с этим без проблем.
Ответить