데이터 엔지니어 기술 블로그

[Chat GPT] GPT-4 Developer Livestream 번역 본문

기술

[Chat GPT] GPT-4 Developer Livestream 번역

jun_yeong_park 2023. 3. 15. 13:31
반응형

Open AI

Source

https://www.youtube.com/watch?v=outcGtbnMuQ 

 

GPT-4 Developer Livestream

To the GPT-4 developer demo livestream.

GPT-4 개발자 데모 라이브스트림에 오신 것을 환영합니다.

 

Honestly, it's kind of hard for me to believe that this day is here.

솔직히 오늘이 왔다는 사실이 믿기지 않습니다.

 

OpenAI has been building this technology really since we started the company, but for the past two years, we've been really focused on delivering GPT-4.

OpenAI는 회사를 설립할 때부터 이 기술을 개발해왔지만, 지난 2년 동안은 GPT-4를 제공하는 데 집중해왔습니다.

 

That started with rebuilding our entire training stack, actually training the model, and then seeing what it was capable of, trying to figure out its capabilities, its risks, working with partners in order to test it in real-world scenarios, really tuning its behavior, optimizing the model, getting it available so that you can use it.

전체 트레이닝 스택을 재구축하고, 실제로 모델을 트레이닝한 다음, 모델의 기능과 위험을 파악하고, 파트너와 협력하여 실제 시나리오에서 테스트하고, 동작을 실제로 조정하고, 모델을 최적화하고, 사용할 수 있도록 제공하는 것부터 시작되었습니다.

 

And so today, our goal is to show you a little bit of how to make GPT-4 shine, how to really get the most out of it, where its weaknesses are, where we're still working on it, and just how to really use it as a good tool, a good partner.

그래서 오늘 저희의 목표는 GPT-4를 빛나게 하는 방법, 이를 최대한 활용하는 방법, 약점은 무엇인지, 아직 개선 중인 부분은 무엇인지, 그리고 좋은 도구이자 좋은 파트너로 활용하는 방법을 조금이나마 보여드리는 것입니다.

 

So if you're interested in participating in the stream, if you go to our Discord, so it's discord.gg slash openai, there's comments in there, and we'll take a couple of audience suggestions.

스트림에 참여하고 싶으시다면 Discord에 접속하셔서 discord.gg 슬래시 오픈아이에 댓글을 남기시면 시청자 제안을 몇 가지 받아볼 수 있습니다.

 

So the first thing I want to show you is the first task that GPT-4 could do that we never really got 3.5 to do.

가장 먼저 보여드리고 싶은 것은 3.5에서는 할 수 없었던 GPT-4가 할 수 있는 첫 번째 작업입니다.

 

And the way to think about this is all throughout training that you're constantly doing all this work.

이 작업에 대해 생각하는 방법은 훈련 내내 이 모든 작업을 지속적으로 수행한다는 것입니다.

 

It's 2 AM, the pager goes off, you fix the model, and you're always wondering, is it going to work? Is all this effort actually going to pan out? And so we all had a pet task that we really liked, and that we would all individually be trying to see, is the model capable of it now? And I'm going to show you the first one that we had a success for 4, but never really got there for 3.5.

새벽 2시에 호출기가 울리고 모델을 고치면서 항상 궁금해하는 것이 바로 '잘 될까? 이 모든 노력이 실제로 효과가 있을까요? 그래서 우리 모두는 각자 정말 좋아하고 개별적으로 시도해보고 싶었던 애완동물 과제를 하나씩 가지고 있었는데, 과연 이 모델이 그 과제를 해낼 수 있을까요? 4 버전에서는 성공했지만 3.5 버전에서는 성공하지 못한 첫 번째 과제를 보여드리겠습니다.

 

So I'm just going to copy the top of our blog post from today, going to paste it into our Playground.

오늘 블로그 게시물의 상단을 복사하여 Playground에 붙여 넣겠습니다.

 

Now this is our new chat completions Playground that came out two weeks ago.

이제 2주 전에 출시된 새로운 채팅 완성하기 Playground입니다.

 

I'm going to show you first with GPT-3.5, 4 has the same API to it, the same Playground.

먼저 GPT-3.5를 보여드리겠습니다.

 

The way that it works is you have a system message where you explain to the model what it's supposed to do, and we've made these models very steerable.

4 버전에도 동일한 API, 동일한 플레이그라운드가 있습니다.

 

So you can provide it with really any instruction you want, whatever you dream up.

작동 방식은 시스템 메시지를 통해 모델에 해야 할 일을 설명할 수 있으며, 이러한 모델을 매우 조정할 수 있도록 만들었습니다.

 

And the model will adhere to it pretty well, and in the future it will get increasingly, increasingly powerful at steering the model very reliably.

따라서 원하는 모든 지침을 모델에 제공할 수 있습니다.

 

You can then paste whatever you want as a user, the model will return messages as an assistant.

그러면 모델은 이를 잘 따르게 되고, 앞으로는 점점 더 강력하고 안정적으로 모델을 조종할 수 있게 될 것입니다.

 

And the way to think of it is that we're moving away from sort of just raw text in, raw text out, where you can't tell where different parts of the conversation come from, but towards this much more structured format that gives the model the opportunity to know, well, this is the user asking me to do something that the developer didn't intend, I should listen to the developer here.

그런 다음 사용자가 원하는 것을 붙여 넣으면 모델이 어시스턴트로서 메시지를 반환합니다. 대화의 다른 부분이 어디에서 왔는지 알 수 없는 원시 텍스트 입력, 원시 텍스트 출력 방식에서 벗어나 훨씬 더 구조화된 형식으로 전환하여 모델이 '사용자가 개발자가 의도하지 않은 작업을 요청하는구나, 개발자의 말을 들어야겠구나'를 알 수 있는 기회를 제공한다고 생각하면 됩니다.

 

All right, so now time to actually show you the task that I'm referring to.

자, 이제 제가 언급한 작업을 실제로 보여드리겠습니다.

 

So everyone's familiar with, summarize this, let's say, article into a sentence, okay, getting a little more specific, but where every word begins with G. So this is 3.5, let's see what it does.

여러분도 잘 아시겠지만, 기사를 한 문장으로 요약해 보겠습니다. 좀 더 구체적으로 말하자면, 모든 단어가 G로 시작하는 3.5버전 GPT입니다.

 

Yeah, it kind of didn't even try, just gave up on the task.

네, 시도조차 하지 않고 그냥 작업을 포기했습니다.

 

This is pretty typical for 3.5, trying to do this particular kind of task.

이런 종류의 작업을 시도하는 것은 3.5에서 매우 일반적입니다.

 

If it's, you know, sort of a very kind of stilted article or something like that, maybe it can succeed, but for the most part, 3.5 just gives up.

아주 삐뚤어진 기사 같은 경우에는 성공할 수도 있지만, 대부분의 경우 3.5는 그냥 포기합니다.

 

But let's try the exact same prompt, the exact same system message in GPT-4.

하지만 GPT-4에서 똑같은 프롬프트, 똑같은 시스템 메시지를 시도해 봅시다.

 

So kind of borderline, whether you want to count AI or not, but so let's say AI doesn't count, that's cheating.

인공지능을 포함할지 말지 경계가 모호한 상황인데, 인공지능이 포함되지 않는다고 가정해 보겠습니다.

 

So fair enough, the model happily accepts my feedback.

공평하게도 모델은 제 피드백을 기꺼이 받아들입니다.

 

So now to make sure it's not just good for Gs, I'd like to turn this over to the audience.

이제 G에게만 좋은 것이 아닌지 확인하기 위해 청중에게 이 문제를 넘기고 싶습니다.

 

I'll take a suggestion on what letter to try next.

다음에 시도할 편지에 대한 제안을 받겠습니다.

 

In the meanwhile, while I'm waiting for our moderators to pick the lucky, lucky letter, I will give a try with A.

그동안 사회자가 행운의 행운의 글자를 고르기를 기다리는 동안 저는 A로 시도해 볼게요.

 

But in this case, I'll say GPT-4 is fine, why not? Also pretty good summary.

하지만 이 경우에는 GPT-4도 괜찮다고 말씀드리겠습니다. 요약도 꽤 괜찮네요.

 

So I'll hop over to our Discord.

그럼 디스코드로 넘어가볼게요.

 

All right.

알았어요.

 

Wow People are being a little ambitious here.

와우 사람들이 좀 야심 차게 행동하고 있네요.

 

I'm really trying to put the model through the paces.

정말 모델을 테스트해보고 싶어요.

 

We're going to try Q, which if you think about this for a moment, I want the audience to really think about how would you do a summary of this article that all starts with Q.

잠시만 생각해보면 청중들이 이 글의 요약이 모두 Q로 시작한다면 어떻게 할 것인지 생각해 보셨으면 좋겠어요.

 

It's not easy.

꽤 괜찮네요.

 

It's pretty good.

꽤 좋네요.

 

That's pretty good.

좋아요.

 

All right.

좋습니다.

 

So I've shown you summarizing an existing article.

지금까지 기존 기사를 요약하는 방법을 보여드렸습니다.

 

I want to show you how you can flexibly combine ideas between different articles.

서로 다른 기사 간에 아이디어를 유연하게 결합하는 방법을 보여드리고 싶어요.

 

So I'm going to take this article that was on Hacker News yesterday, copy paste it into the same conversation so it has all the context of what we were just doing.

어제 해커 뉴스에 실린 이 기사를 가져와서 같은 대화에 복사하여 붙여 넣어서 방금 했던 작업의 모든 맥락을 포함하도록 하겠습니다.

 

I'm going to say, find one common theme between this article and the GPT-4 blog.

이 기사와 GPT-4 블로그에서 공통된 주제를 하나 찾아보겠습니다.

 

So this is an article about Pinecone, which is a Python web app development framework, and it's making the technology more accessible, user-friendly.

이 글은 파이썬 웹 앱 개발 프레임워크인 Pinecone에 관한 글이며, 이 기술을 보다 접근하기 쉽고 사용자 친화적으로 만들고 있습니다.

 

If you don't think that was insightful enough, you can always give some feedback and say, that was not insightful enough.

인사이트가 충분하지 않다고 생각하신다면 언제든지 피드백을 주시고 충분히 인사이트가 부족하다고 말씀해 주세요. 

 

No, I'll just even just leave it there.

아니요, 그냥 그대로 두겠습니다.

 

Leave it up to the model to decide.

모델이 결정하도록 맡기세요.

 

So bridging the gap between powerful technology and practical applications.

강력한 기술과 실용적인 애플리케이션 사이의 간극을 좁히는 일입니다.

 

Seems not bad.

나쁘지 않은 것 같네요.

 

And of course, you can ask for any other kind of task you want using its flexible language understanding and synthesis.

물론 유연한 언어 이해 및 합성 기능을 사용하여 원하는 다른 종류의 작업을 요청할 수도 있습니다.

 

You can ask for something like, now turn the GPT-4 blog post into a rhyming poem.

예를 들어, GPT-4 블로그 게시물을 운율이 있는 시로 바꿔달라고 요청할 수 있습니다.

 

Picked up on opening up evals, open source for all, helping to guide answering the call.

누구나 사용할 수 있는 오픈 소스인 평가 개방에 주목하여 응답을 유도하는 데 도움을 줍니다.

 

Which by the way, if you'd like to contribute to this model, please give us evals.

이 모델에 기여하고 싶으시다면 평가를 제공해 주세요.

 

We have an open source evaluation framework that will help us guide and all of our users understand what the model is capable of and to take it to the next level.

저희는 오픈 소스 평가 프레임워크를 통해 모든 사용자가 이 모델이 무엇을 할 수 있는지 이해하고 다음 단계로 나아가는 데 도움을 줄 것입니다.

 

So there we go.

여기까지입니다.

 

This is consuming existing content using GPT-4 with a little bit of creativity on top.

이것은 기존 콘텐츠에 약간의 창의성을 더하여 GPT-4를 사용하는 것입니다. 

 

But next, I want to show you how to build with GPT-4.

이제 GPT-4로 빌드하는 방법을 보여드리겠습니다.

 

What it's like to create with it as a partner.

파트너와 함께 제작하는 것이 어떤 것인지요.

 

And so the thing we're going to do is we're going to actually build a Discord bot.

그래서 저희가 할 일은 실제로 Discord 봇을 구축하는 것입니다.

 

I'll build it live and show you the process, show you debugging, show you what the model can do, where its limitations are, and how to work with them in order to sort of achieve new heights.

실시간으로 빌드하여 프로세스를 보여주고, 디버깅을 보여주고, 모델이 무엇을 할 수 있는지, 한계는 어디인지, 새로운 차원으로 나아가기 위해 어떻게 작업해야 하는지 보여드리겠습니다.

 

So the first thing I'll do is tell the model that this time it's supposed to be an AI programming assistant.

가장 먼저 할 일은 모델에 이번에는 AI 프로그래밍 어시스턴트가 될 것이라고 말하는 것입니다.

 

Its job is to write things out in pseudocode first and then actually write the code.

먼저 의사 코드로 무언가를 작성한 다음 실제로 코드를 작성하는 것이 이 모델의 임무입니다.

 

And this approach is very helpful so that the model break down the problem into smaller pieces.

이 접근 방식은 모델이 문제를 더 작은 조각으로 나눌 수 있도록 매우 유용합니다.

 

And then that way, you're not kind of asking it to just come up with a super hard solution to a problem all in one go.

이렇게 하면 한 번에 문제에 대한 매우 어려운 해결책을 제시하라고 요구하지 않아도 됩니다.

 

It also makes it very interpretable because you can see exactly what the model was thinking and you can even provide corrections if you'd like.

또한 모델이 어떤 생각을 하고 있는지 정확히 확인할 수 있고 원하는 경우 수정 사항을 제공할 수도 있기 때문에 해석이 매우 쉽습니다.

 

So here is the prompt that we're going to ask it.

이제 여기에 우리가 물어볼 프롬프트가 있습니다.

 

This is the kind of thing that 3.5 would totally choke on if you've tried anything like it.

3.5 버전에서 이런 질문을 해본 적이 있다면 완전히 질식할 것입니다.

 

But so we're going to ask for a Discord bot that uses the GPT-4 API to read images and text.

그래서 우리는 이미지와 텍스트를 읽기 위해 GPT-4 API를 사용하는 Discord 봇을 요청할 것입니다.

 

Now, there's one problem here, which is this model's training cutoff is in 2021, which means it has not seen our new chat completions format.

여기서 한 가지 문제가 있는데, 이 모델의 학습 컷오프가 2021년이기 때문에 새로운 채팅 완료 형식을 보지 못했다는 것입니다.

 

So I literally just went to the blog post from two weeks ago, copy pasted from the blog post, including the response format.

그래서 말 그대로 2주 전의 블로그 게시물로 가서 응답 형식을 포함하여 블로그 게시물에서 복사하여 붙여 넣었습니다.

 

It has not seen the new image extension to that.

새로운 이미지 확장을 보지 못했습니다.

 

And so I just kind of wrote that up in just very minimal detail about how to include images.

그래서 저는 이미지를 포함하는 방법에 대해 아주 최소한으로만 자세히 설명했습니다.

 

And now the model can actually leverage that documentation that it did not have memorized, that it does not know.

이제 모델은 외우지 않았던, 알지 못했던 문서를 실제로 활용할 수 있게 되었습니다.

 

And in general, these models are very good at using information that it's been trained on in new ways and synthesizing new content.

그리고 일반적으로 이러한 모델은 학습된 정보를 새로운 방식으로 사용하고 새로운 콘텐츠를 합성하는 데 매우 능숙합니다.

 

And you can see that right here, that it actually wrote an entirely new bot.

여기에서 실제로 완전히 새로운 봇을 작성한 것을 볼 수 있습니다.

 

Now let's actually see if this bot is going to work in practice.

이제 이 봇이 실제로 작동하는지 실제로 확인해 봅시다.

 

So you should always look through the code to get a sense of what it does.

따라서 항상 코드를 살펴보고 봇이 무엇을 하는지 파악해야 합니다.

 

Don't run untrusted code from humans or from AIs.

사람이나 AI의 신뢰할 수 없는 코드를 실행하지 마세요.

 

And one thing to note is that the Discord API has changed a lot over time, and particularly that there's one feature that has changed a lot since this model was trained.

그리고 한 가지 주의할 점은 Discord API가 시간이 지남에 따라 많이 변경되었으며, 특히 이 모델이 학습된 이후로 많이 변경된 기능이 하나 있다는 점입니다.

 

Give it a try.

한번 사용해 보세요.

 

In fact, yes, we are missing the intense keyword.

사실, 예, 강렬한 키워드가 빠져 있습니다.

 

This is something that came out in 2020.

이것은 2020년에 나온 기능입니다.

 

So the model does know it exists, but it doesn't know which version of the Discord API we're using.

따라서 모델은 이 키워드가 존재한다는 것은 알고 있지만, 우리가 어떤 버전의 Discord API를 사용하고 있는지는 알지 못합니다.

 

So are we out of luck? Well, not quite.

그럼 운이 없는 건가요? 그렇지는 않습니다.

 

We can just simply paste to the model exactly the error message, not even going to say, hey, this is from running your code.

오류 메시지를 정확히 모델에 붙여넣기만 하면 됩니다. 심지어 '코드를 실행할 때 발생한 오류입니다'라고 말하지 않아도 됩니다.

 

Could you please fix it? We'll just let it run.

고쳐주실 수 있나요? 그냥 실행하면 됩니다.

 

And the model says, oh, yeah, whoops, the intense argument.

그러면 모델이 '아, 맞다'라고 말하며 격렬한 논쟁이 시작됩니다.

 

Here's the correct code.

여기 올바른 코드가 있습니다.

 

Now, let's give this a try, once again, kind of making sure that we understand what the code is doing.

이제 다시 한 번 코드가 무엇을 하는지 이해했는지 확인하면서 실행해 봅시다.

 

Now, a second issue that can come up is it doesn't know what environment I'm running in.

이제 두 번째로 발생할 수 있는 문제는 내가 어떤 환경에서 실행 중인지 모른다는 것입니다.

 

And if you notice, it says, hey, here's this inscrutable error message, which if you've not used Jupyter Notebook a lot with async I-O before, you probably have no idea what this means.

비동기 I/O와 함께 Jupyter Notebook을 많이 사용해 보지 않았다면 이 오류 메시지가 무슨 뜻인지 전혀 모를 수도 있습니다.

 

But fortunately, once again, you can just sort of say to the model, hey, I'm using Jupyter and would like to make this work.

하지만 다행히도 다시 한 번 모델에 "안녕하세요, 저는 Jupyter를 사용하고 있고 이 문제를 해결하고 싶습니다"라고 말하면 됩니다.

 

And you fix it.

그리고 고치면 됩니다.

 

And the specific problem is that there's already an event loop running.

구체적인 문제는 이미 이벤트 루프가 실행 중이라는 것입니다.

 

So you need to use this nest async I-O library.

따라서 이 중첩 비동기 I-O 라이브러리를 사용해야 합니다.

 

You need to call nest async I-O dot apply.

중첩 비동기 I-O 도트 적용을 호출해야 합니다.

 

The model knows all of this.

모델은 이 모든 것을 알고 있습니다.

 

It instantiates all of these pieces into the bot.

이 모든 부분을 봇에 인스턴스화합니다.

 

It even helpfully tells you, oh, you're running in Jupyter.

심지어 Jupyter에서 실행 중이라는 사실도 알려줍니다.

 

Well, you can do this bang pip install in order to install the package if you don't already have it.

패키지가 아직 없는 경우 이 뱅 핍 설치를 통해 패키지를 설치할 수 있습니다.

 

That was very helpful.

매우 유용했습니다.

 

Now we'll run.

이제 실행하겠습니다.

 

And it looks like something happened.

그리고 무슨 일이 생긴 것 같습니다.

 

So the first thing I'll do is go over to our Discord.

가장 먼저 할 일은 Discord로 이동하는 것입니다.

 

And I will paste in a screenshot of our Discord itself.

그리고 디스코드 자체의 스크린샷을 붙여 넣겠습니다.

 

And remember, GPT-4 is not just a language model.

그리고 GPT-4는 단순한 언어 모델이 아니라는 점을 기억하세요.

 

It's also a vision model.

비전 모델이기도 합니다.

 

In fact, it can flexibly accept inputs that intersperse images and text arbitrarily, kind of like a document.

실제로 문서처럼 이미지와 텍스트가 임의로 섞여 있는 입력을 유연하게 받아들일 수 있습니다.

 

Now the image feature is in preview.

이제 이미지 기능이 미리 보기에 있습니다.

 

So this is going to be a little sneak peek.

이제 살짝 엿볼 수 있습니다.

 

It's not yet publicly available.

아직 공개적으로 사용할 수 없습니다.

 

It's something we're working with one partner called Be My Eyes in order to really start to develop it and get it ready for prime time.

Be My Eyes라는 파트너와 협력하여 본격적으로 개발을 시작하고 프라임 타임에 맞춰 준비 중입니다.

 

But you can ask anything you like.

하지만 원하는 것은 무엇이든 물어볼 수 있습니다.

 

For example, I'll say, GPT-4, hello world.

예를 들어 GPT-4, 안녕하세요.

 

Can you describe this image in painstaking detail? All right.

이 이미지를 자세히 설명해 주시겠어요? 좋아요.

 

Which first of all, think of how you would do this yourself.

먼저 이 작업을 직접 어떻게 할 것인지 생각해 보세요.

 

There's a lot of different things you could latch onto, a lot of different pieces of the system you could describe.

여러분이 붙잡을 수 있는 다양한 요소와 설명할 수 있는 시스템의 다양한 부분이 있습니다.

 

And we can go over to the actual code.

그리고 실제 코드로 넘어가 보겠습니다.

 

And we can see that, yep, we in fact received the message, have formatted an appropriate request for our API.

그리고 실제로 메시지를 수신하고 API에 적합한 요청 형식을 지정했음을 알 수 있습니다.

 

And now we wait.

이제 기다립니다.

 

Because one of the things we have to do is we have to make the system faster.

우리가 해야 할 일 중 하나는 시스템을 더 빠르게 만들어야 하기 때문입니다.

 

That's one of the things that we're working on optimizing.

이것이 우리가 최적화하기 위해 노력하고 있는 것 중 하나입니다.

 

In the meanwhile, I just want to say to the audience that's watching, we'll take an audience request next.

그 동안 시청자 여러분께 말씀드리고 싶은 것은 다음에는 시청자 요청을 받겠습니다.

 

So if you have an image and a task you'd like to accomplish, please submit that to the Discord.

이루고 싶은 이미지와 과제가 있으시면 Discord에 제출해 주세요.

 

Our moderators will pick one that we'll run.

진행자가 한 가지를 골라 진행할 것입니다.

 

So we can see that the Discord.

이제 디스코드에서 볼 수 있습니다.

 

Oh, it looks like we have a response.

응답이 온 것 같네요.

 

Perfect.

완벽하네요.

 

So it's a screenshot of a Discord application interface.

디스코드 애플리케이션 인터페이스의 스크린샷입니다.

 

Pretty good.

꽤 좋네요.

 

Did not even describe it.

설명하지도 않았습니다.

 

It knows that it's Discord.

디스코드라는 것을 알고 있습니다.

 

There's probably Discord written there somewhere where it just kind of knows this from prior experience.

아마도 이전 경험을 통해 Discord라는 것을 어딘가에 적어놓았을 것입니다.

 

Server icon labeled GPT-4.

GPT-4라고 표시된 서버 아이콘.

 

Describes the interface in great detail.

인터페이스에 대해 아주 자세하게 설명되어 있습니다.

 

Talks about all the people telling me that I'm supposed to do Q.

Q를 해야 한다고 말하는 모든 사람들에 대해 이야기합니다.

 

Very kind audience.

매우 친절한 청중.

 

And describes a bunch of the notification messages and the users that are in the channel.

그리고 많은 알림 메시지와 채널에 있는 사용자에 대해 설명합니다.

 

And so there you go.

이렇게요.

 

That's some pretty good understanding.

이제 꽤 잘 이해가 되셨을 겁니다.

 

Now this next one, if you notice, first of all, we got a post.

이제 다음 장면을 보시면 우선 게시물이 하나 있습니다.

 

But the model did not actually see the message.

하지만 모델은 실제로 메시지를 보지 못했습니다.

 

So is this a failure of the model or of the system around the model? Well, we can take a look.

그렇다면 이것은 모델의 오류일까요, 아니면 모델과 관련된 시스템의 오류일까요? 글쎄요, 우리가 살펴볼 수 있습니다.

 

And if you notice, here content is an empty string.

보시다시피 여기 내용은 빈 문자열입니다.

 

We received a blank message contents.

빈 메시지 내용을 받았습니다.

 

The reason for this is a dirty trick that we played on the AI.

그 이유는 우리가 AI에 더러운 속임수를 썼기 때문입니다.

 

So if you go to the Discord documentation, and you scroll through it, all the way down to the message content intent.

따라서 Discord 문서로 이동하여 스크롤을 내려가면 메시지 내용 의도까지 내려갈 수 있습니다.

 

You'll see this was added as of September 2022 as a required field.

2022년 9월부터 이 항목이 필수 입력 항목으로 추가되었음을 확인할 수 있습니다.

 

So in order to receive a message that does not explicitly tag you, you now have to include this new intent in your code.

따라서 명시적으로 나를 태그하지 않은 메시지를 받으려면 이제 코드에 이 새로운 인텐트를 포함시켜야 합니다.

 

Remember I said intents have changed a lot over time.

인텐트가 시간이 지남에 따라 많이 바뀌었다고 말씀드린 것을 기억하세요.

 

This is much newer than the model is possibly able to know.

이것은 모델이 알 수 있는 것보다 훨씬 더 새로운 것입니다.

 

So maybe we're out of luck.

그래서 운이 나빴을 수도 있습니다.

 

We have to debug this by hand.

직접 디버깅해야 합니다.

 

But once again, we can try to use GPT-4's language understanding capabilities to solve this.

하지만 다시 한 번 GPT-4의 언어 이해 기능을 사용하여 이 문제를 해결할 수 있습니다.

 

Now keep in mind, this is a document of like, I think this is like 10,000, 15,000 words, something like that.

이 문서는 10,000단어, 15,000단어 정도 되는 문서라는 점을 명심하세요.

 

It's not formatted very well.

형식이 잘 갖춰져 있지 않습니다.

 

This is literally a command A copy paste.

이것은 말 그대로 복사 붙여넣기 명령입니다.

 

This is what it's supposed to parse through to find in the middle of that document that oh yeah, message contents.

이 명령은 문서 중간에 있는 메시지 내용을 찾기 위해 구문 분석해야 하는 명령입니다.

 

That's required now.

이제 이 작업이 필요합니다.

 

But let's see if we can do it.

하지만 우리가 할 수 있는지 봅시다.

 

So we will ask for I am receiving blank message contents.

그래서 우리는 빈 메시지 내용을 수신하고 있습니다.

 

Can you, why could this be happening? How do I fix it? So one thing that's new about GPT-4 is context length.

왜 이런 일이 발생할 수 있나요? 어떻게 해결하나요? GPT-4의 새로운 기능 중 하나는 컨텍스트 길이입니다.

 

32,000 tokens is kind of the upper limit that we support right now.

32,000개의 토큰이 현재 저희가 지원하는 상한선입니다.

 

And the model is able to flexibly use long documents.

그리고 이 모델은 긴 문서를 유연하게 사용할 수 있습니다.

 

It's something we're still optimizing.

아직 최적화 중입니다.

 

So we recommend trying it out, but not necessarily sort of really scaling it up just yet, unless you have an application that really benefits from it.

따라서 이 모델을 사용해 보시길 권장하지만, 꼭 필요한 애플리케이션이 아니라면 아직은 확장하지 않는 것이 좋습니다.

 

So if you're really interested in long context, please let us know.

따라서 긴 문맥에 정말 관심이 있으시다면 알려주시기 바랍니다.

 

We want to see what kinds of applications it unlocks.

어떤 종류의 애플리케이션이 이 기능을 활용할 수 있는지 보고 싶습니다.

 

But if you see, it says oh yeah, message content intent was not enabled.

하지만 보시면 메시지 콘텐츠 의도가 활성화되지 않았다고 표시됩니다.

 

So you can either ask the model to write some code for you, or you could actually just do it the old fashioned way.

따라서 모델에 코드를 작성해 달라고 요청할 수도 있고, 기존 방식으로 직접 작성할 수도 있습니다.

 

Either way is fine.

어느 쪽이든 괜찮습니다.

 

I think that this is an augmenting tool.

저는 이것이 증강 도구라고 생각합니다.

 

It makes you much more productive.

생산성을 훨씬 더 높여주니까요.

 

But it's still important that you are in the driver's seat and are the manager and knows what's going on.

하지만 여전히 운전석에 앉아서 관리자로서 무슨 일이 일어나고 있는지 아는 것이 중요합니다.

 

So now we're connected once again.

이제 다시 한 번 연결되었습니다.

 

And Boris, would you like to rerun the message? Once again, we can see that we have received it, even though the bot was not explicitly tagged.

보리스, 메시지를 다시 재생할까요? 봇에 명시적으로 태그가 지정되지 않았음에도 불구하고 다시 한 번 메시지를 받은 것을 확인할 수 있습니다.

 

It seems like a pretty good description.

꽤 괜찮은 설명인 것 같습니다.

 

This is an interesting image, actually.

사실 이것은 흥미로운 이미지입니다.

 

It looks like it's a DALI generated one.

DALI가 생성한 이미지인 것 같습니다.

 

Let's actually try this one as well.

이것도 실제로 시도해 봅시다.

 

What's funny about this image? Oh, it's already been submitted.

이 이미지의 어떤 점이 재미있나요? 아, 이미 제출된 이미지입니다.

 

Once again, we can verify that it's making the right API calls.

다시 한 번 올바른 API 호출을 하고 있는지 확인할 수 있습니다.

 

Squirrels do typically eat nuts.

다람쥐는 일반적으로 견과류를 먹습니다.

 

We don't expect them to use a camera or act like a human.

카메라를 사용하거나 사람처럼 행동할 것이라고는 생각하지 않습니다.

 

So I think that's a pretty good explanation of why that image is funny.

이 이미지가 왜 재미있는지 꽤 잘 설명한 것 같습니다.

 

I'm going to show you one more example of what you can do with this model.

이 모델로 무엇을 할 수 있는지 한 가지 예를 더 보여드리겠습니다.

 

So I have here a nice hand-drawn mock-up of a joke website.

제가 직접 그린 농담 웹사이트의 멋진 모형이 있습니다.

 

Definitely worthy of being put up on my refrigerator.

냉장고에 붙여 놓을 만한 가치가 충분하죠.

 

So I'm just going to take out my phone, literally take a photo of this mock-up.

이제 휴대폰을 꺼내서 말 그대로 이 모형을 사진으로 찍어 보겠습니다.

 

And then I'm going to send it to our Discord.

그리고 나서 Discord로 보내려고 합니다.

 

All right.

좋아요.

 

Going to send it to our Discord.

디스코드에 보낼게요.

 

This is, of course, the rockiest part, making sure that we actually send it to the right channel, which in fact I think maybe I did not.

물론 가장 어려운 부분은 실제로 올바른 채널로 보내는 것인지 확인하는 것인데, 실제로는 그렇지 않은 것 같습니다.

 

Sent it to the wrong channel.

엉뚱한 채널로 보낸 것 같아요.

 

It's funny.

재밌는 일이죠.

 

It's always the non-AI parts of these demos that are the hardest part to do.

데모에서 가장 어려운 부분은 항상 AI가 아닌 부분입니다.

 

And here we go.

여기까지입니다.

 

Technology is now solved.

기술은 이제 해결되었습니다.

 

Now we wait.

이제 기다릴 차례입니다.

 

So the thing that's amazing in my mind is that what's going on here is we're talking to a neural network.

제 생각에 놀라운 점은 우리가 지금 신경망과 대화하고 있다는 것입니다.

 

And this neural network was trained to predict what comes next.

그리고 이 신경망은 다음에 일어날 일을 예측하도록 훈련되었습니다.

 

It played this game of being shown a partial document and then predicted what comes next across an unimaginably large amount of content.

이 신경망은 문서의 일부만 보여주는 게임을 한 다음 상상할 수 없을 정도로 많은 양의 콘텐츠에서 다음에 무엇이 나올지 예측했습니다.

 

And from there, it learns all of these skills that you can apply in all of these very flexible ways.

그리고 이를 통해 매우 유연한 방식으로 적용할 수 있는 모든 기술을 학습합니다.

 

And so we can actually take now this output.

그래서 이제 실제로 이 결과물을 가져올 수 있습니다.

 

So literally we just said to output the HTML from that picture.

말 그대로 저 그림에서 HTML을 출력하라고 했습니다.

 

And here we go.

그리고 여기 있습니다.

 

Actual working JavaScript filled in the jokes.

실제 작동하는 자바스크립트가 농담을 채웠습니다.

 

For comparison, this was the original of our mockup.

비교를 위해, 이것은 우리가 만든 목업의 원본입니다.

 

And so there you go.

여기까지입니다.

 

Going from hand-drawn beautiful art, if I do say so myself, to working website.

제가 직접 그린 아름다운 그림에서 실제 작동하는 웹사이트로 발전했습니다.

 

And this is all just potential.

그리고 이것은 모두 잠재력일 뿐입니다.

 

You can see lots of different applications.

다양한 응용 프로그램을 볼 수 있습니다.

 

We ourselves are still figuring out new ways to use this.

저희도 여전히 새로운 활용 방법을 찾고 있습니다.

 

So we're going to work with our partner.

그래서 우리는 파트너와 협력할 것입니다.

 

We're going to scale up from there.

거기서부터 확장해 나갈 것입니다.

 

But please be patient because it's going to take us some time to really make this available for everyone.

하지만 모든 사람이 이 기능을 사용할 수 있게 되려면 시간이 좀 걸릴 것이니 조금만 기다려 주세요.

 

So I have one last thing to show you.

마지막으로 보여드릴 것이 하나 더 있습니다.

 

I've shown you reading existing content.

기존 콘텐츠를 읽는 방법을 보여드렸습니다.

 

I've shown you how to build with the system as a partner.

파트너로서 시스템과 함께 구축하는 방법을 보여드렸습니다.

 

The last thing I'm going to show is how to work with the system to accomplish a task that none of us like to do, but we all have to.

마지막으로 보여드릴 것은 시스템과 협력하여 우리 중 누구도 하고 싶지 않지만 우리 모두가 해야만 하는 작업을 수행하는 방법입니다.

 

So you may have guessed.

짐작하셨을 수도 있습니다.

 

The thing we're going to do is taxes.

우리가 할 일은 세금입니다.

 

So note that GPT is not a certified tax professional, nor am I, so you should always check with your tax advisor.

GPT는 공인 세무 전문가가 아니며 저 역시 마찬가지이므로 항상 세무사에게 문의해야 합니다.

 

But it can be helpful to understand some dense content to just be able to empower yourself to be able to sort of solve problems and get a handle on what's happening when you could not otherwise.

하지만, 조금 더 깊이 있는 내용을 이해하는 것은 문제를 해결할 수 있는 힘을 키우고, 그렇지 않을 때 무슨 일이 일어나고 있는지 파악하는 데 도움이 될 수 있습니다.

 

So once again, I'll do a system message.

그래서 다시 한 번 시스템 메시지를 해보겠습니다.

 

In this case, I'm going to tell it that it's tax GPT, which is not a specific thing that we've trained into this model.

이 경우에는 이 모델에 훈련된 특정한 것이 아닌 세금 GPT라고 말씀드리겠습니다.

 

You can be very creative if you want with the system message to really get the model in the mood of what is your job, what are you supposed to do.

시스템 메시지를 통해 원하는 경우 매우 창의적으로 모델에 당신의 직업이 무엇인지, 무엇을 해야 하는지에 대한 분위기를 조성할 수 있습니다.

 

So I pasted in the tax code.

그래서 세금 코드를 붙여 넣었습니다.

 

This is about 16 pages worth of tax code.

약 16페이지 분량의 세금 코드입니다.

 

And there's this question about Alice and Bob.

그리고 앨리스와 밥에 대한 질문이 있습니다.

 

They got married at one point, and here are their incomes, and they take a standard deduction.

앨리스와 밥은 한 때 결혼했고, 여기 소득이 있고 표준 공제를 받습니다.

 

They're filing jointly.

그들은 공동으로 세금 신고를 하고 있습니다.

 

So first question, what is their standard deduction for 2018? So while the model is chugging, I'm going to solve this problem by hand to show you what's involved.

첫 번째 질문은 2018년 표준 공제액이 얼마인가요? 따라서 모델이 작동하는 동안 이 문제를 직접 해결하여 관련 내용을 보여 드리겠습니다.

 

So the standard deduction is the basic standard deduction plus the additional.

표준 공제는 기본 표준 공제액에 추가 공제액을 더한 것입니다.

 

The basic one is 200% for joint return of subparagraph C, which is here.

기본 공제는 여기에 있는 C 하위 항목의 공동 신고에 대해 200%입니다.

 

So additional doesn't apply.

따라서 추가는 적용되지 않습니다.

 

The limitation doesn't apply.

한도는 적용되지 않습니다.

 

OK, none of these apply.

좋아, 이 중 어느 것도 적용되지 않습니다.

 

Oh, wait.

오, 잠깐만요.

 

Special rules for taxable year 2018, which is the one we care about, through 2025, you have to substitute 12,000 for 3,000.

우리가 관심을 갖고 있는 2018년 과세 연도의 특별 규칙은 2025년까지 12,000달러를 3,000달러로 대체해야 합니다.

 

So 200% of 12,000, 24,000 is the final answer.

따라서 12,000의 200%인 24,000이 최종 정답입니다.

 

If you notice, the model got to the same conclusion.

보시다시피 모델도 같은 결론에 도달했습니다.

 

And you can actually read through its explanation.

그리고 실제로 그 설명을 읽어보실 수 있습니다.

 

And to tell you the truth, the first time I tried to approach this problem myself, I could not figure it out.

그리고 솔직히 말해서 처음이 문제에 직접 접근하려고했을 때 알아낼 수 없었습니다.

 

I spent half an hour reading through the tax code, trying to figure out this back reference and why there's subparagraph.

저는 30분 동안 세금 코드를 읽으며 왜 하위 단락이 있는지 알아내려고 노력했습니다.

 

Just what's even going on? It was only by asking the model to spell out its reasoning, and then I followed along, that I was like, oh, I get it now.

도대체 무슨 일이 벌어지고 있는 걸까요? 모델에게 그 이유를 설명해 달라고 요청하고 나서야 비로소 '아, 이제 알겠다'는 생각이 들었습니다.

 

I understand how this works.

어떻게 작동하는지 알겠어요.

 

And so that, I think, is where the power of this system lies.

이 시스템의 강점은 바로 여기에 있다고 생각합니다.

 

It's not perfect, but neither are you.

완벽하지는 않지만 여러분도 마찬가지입니다.

 

And together, it's this amplifying tool that lets you just reach new heights.

그리고 이 증폭 도구를 함께 사용하면 새로운 차원에 도달할 수 있습니다.

 

And you can go further.

그리고 더 나아갈 수 있습니다.

 

You can say, OK, now calculate their total liability.

이제 총 책임을 계산해 보세요.

 

And here we go.

자, 시작합니다.

 

I'm going to do the calculation.

제가 계산을 해보겠습니다.

 

Honestly, every time it does it, it's amazing.

솔직히 계산할 때마다 놀랍습니다.

 

This model is so good at mental math.

이 모델은 정신적 수학을 정말 잘해요.

 

It's way, way better than I am at mental math.

제가 하는 것보다 훨씬 더 잘해요.

 

It's not hooked up to a calculator.

계산기에 연결되어 있지 않아요.

 

That's another way that you could really try to enhance these systems.

이 시스템을 개선할 수 있는 또 다른 방법이죠.

 

But it has these raw capabilities that are so flexible.

하지만 이 시스템에는 매우 유연한 원시 기능이 있습니다.

 

It doesn't care if it's code.

코드인지 여부는 중요하지 않습니다.

 

It doesn't care if it's language.

언어도 상관없습니다.

 

It doesn't care if it's tax.

세금도 상관없습니다.

 

All of these capabilities in one system that can be applied towards the problem that you care about, towards your application, towards whatever you build.

이러한 모든 기능을 하나의 시스템에서 관심 있는 문제, 애플리케이션, 구축하는 모든 것에 적용할 수 있습니다.

 

And so to end it, the final thing that I will show is a little other dose of creativity, which is now summarize this problem into a rhyming poem.

마지막으로 제가 보여드릴 것은 이 문제를 운율 있는 시로 요약한 창의력입니다.

 

And there we go.

그리고 우리는 간다.

 

A beautiful, beautiful poem about doing your taxes.

세금 납부에 관한 아름답고 아름다운 시입니다.

 

So thank you, everyone, for tuning in.

시청해주신 모든 분들께 감사드립니다.

 

I hope you learned something about what the model can do, how to work with it.

이 모델이 무엇을 할 수 있는지, 어떻게 작동하는지에 대해 배웠기를 바랍니다.

 

And honestly, we're just really excited to see what you're going to build.

그리고 솔직히 저희는 여러분이 무엇을 만들지 정말 기대가 됩니다.

 

I've talked about OpenAI evals.

OpenAI 평가에 대해 이야기했습니다.

 

Please contribute.

여러분의 많은 참여 부탁드립니다.

 

We think that this model, improving it, bringing it to the next level, is something that everyone can contribute to.

이 모델을 개선하고 다음 단계로 끌어올리는 것은 모두가 기여할 수 있는 일이라고 생각합니다.

 

And we think it can really benefit a lot of people.

그리고 많은 사람들에게 실제로 도움이 될 수 있다고 생각합니다.

 

And we want your help to do that.

그러기 위해서는 여러분의 도움이 필요합니다.

 

So thank you very much.

정말 감사합니다.

 

We're so excited to see what you're going to build..

여러분이 무엇을 만들어낼지 정말 기대됩니다..

반응형
Comments