<\/p>\n
\u062f\u0631 \u0627\u06cc\u0646 \u0631\u0627\u0647\u0646\u0645\u0627 \u06cc\u06a9 \u0645\u0639\u0645\u0627\u0631\u06cc \u067e\u06cc\u0634\u0646\u0647\u0627\u062f\u06cc \u0628\u0631\u0627\u06cc \u0633\u0627\u062e\u062a \u0627\u067e\u0644\u06cc\u06a9\u06cc\u0634\u0646 \u0648\u0628 \u0633\u0631\u0648\u0631\u0644\u0633<\/em> \u06a9\u0647 \u0627\u0632 \u0642\u0627\u0628\u0644\u06cc\u062a\u200c\u0647\u0627\u06cc *Generative AI* \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc\u200c\u06a9\u0646\u062f \u0627\u0631\u0627\u0626\u0647 \u0634\u062f\u0647 \u0627\u0633\u062a. \u0647\u062f\u0641 \u062a\u0631\u06a9\u06cc\u0628 AWS Amplify \u0628\u0631\u0627\u06cc \u0641\u0631\u0627\u0646\u062a\u200c\u0627\u0646\u062f \u0648 CI\/CD \u0628\u0627 \u0633\u0631\u0648\u06cc\u0633\u200c\u0647\u0627\u06cc \u0633\u0631\u0648\u0631\u0644\u0633 AWS \u0628\u0631\u0627\u06cc \u0628\u06a9\u200c\u0627\u0646\u062f \u0627\u0633\u062a \u062a\u0627 \u06cc\u06a9 \u0631\u0627\u0647\u06a9\u0627\u0631 \u0645\u0642\u06cc\u0627\u0633\u200c\u067e\u0630\u06cc\u0631\u060c \u0627\u0645\u0646 \u0648 \u0642\u0627\u0628\u0644 \u0646\u06af\u0647\u062f\u0627\u0631\u06cc \u0627\u06cc\u062c\u0627\u062f \u0634\u0648\u062f.<\/p>\n <\/p>\n <\/p>\n \u0627\u0628\u0632\u0627\u0631\u0647\u0627\u06cc \u0627\u0635\u0644\u06cc \u0645\u0648\u0631\u062f\u0646\u06cc\u0627\u0632 \u0631\u0627 \u0646\u0635\u0628 \u06a9\u0646\u06cc\u062f: Node.js\u060c npm \u0648 AWS Amplify CLI. \u0633\u067e\u0633 \u0645\u062e\u0632\u0646 \u067e\u0631\u0648\u0698\u0647 \u0631\u0627 \u06a9\u0644\u0648\u0646 \u06a9\u0631\u062f\u0647 \u0648 \u0648\u0627\u0628\u0633\u062a\u06af\u06cc\u200c\u0647\u0627 \u0631\u0627 \u0646\u0635\u0628 \u06a9\u0646\u06cc\u062f.<\/p>\n \u067e\u06cc\u06a9\u0631\u0628\u0646\u062f\u06cc AWS CLI \u0648 Amplify \u0631\u0627 \u0627\u0646\u062c\u0627\u0645 \u062f\u0647\u06cc\u062f \u0648 \u067e\u0631\u0648\u0698\u0647 Amplify \u0631\u0627 \u0645\u0642\u062f\u0627\u0631\u062f\u0647\u06cc \u0627\u0648\u0644\u06cc\u0647 \u06a9\u0646\u06cc\u062f:<\/p>\n <\/p>\n \u0628\u0627 Amplify \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f \u0627\u062d\u0631\u0627\u0632 \u0647\u0648\u06cc\u062a \u0631\u0627 \u0633\u0631\u06cc\u0639 \u0627\u0636\u0627\u0641\u0647 \u06a9\u0646\u06cc\u062f. \u06af\u0632\u06cc\u0646\u0647\u200c\u0647\u0627 \u0634\u0627\u0645\u0644 \u062a\u0646\u0638\u06cc\u0645\u0627\u062a \u067e\u06cc\u0634\u200c\u0641\u0631\u0636 \u06cc\u0627 \u0634\u062e\u0635\u06cc\u200c\u0633\u0627\u0632\u06cc \u062f\u0633\u062a\u06cc \u0627\u0633\u062a. \u062f\u0631 \u0635\u0648\u0631\u062a \u0646\u06cc\u0627\u0632 \u0627\u0632 federation \u0628\u0627 Google\/Facebook \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0646\u06cc\u062f \u0648 \u0642\u0648\u0627\u0646\u06cc\u0646 \u0631\u0645\u0632\u060c MFA \u0648 \u062a\u0623\u06cc\u06cc\u062f \u0627\u06cc\u0645\u06cc\u0644 \u0631\u0627 \u0641\u0639\u0627\u0644 \u06a9\u0646\u06cc\u062f.<\/p>\n <\/p>\n API \u0631\u0627 \u0628\u0627 Amplify \u0627\u0636\u0627\u0641\u0647 \u06a9\u0646\u06cc\u062f\u061b \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f REST \u0628\u0627 Lambda \u06cc\u0627 GraphQL \u0628\u0627 AppSync + DynamoDB \u0627\u0646\u062a\u062e\u0627\u0628 \u06a9\u0646\u06cc\u062f.<\/p>\n \u06cc\u0627 \u0628\u0631\u0627\u06cc GraphQL:<\/p>\n <\/p>\n Lambda \u0646\u0642\u0634 \u0648\u0627\u0633\u0637 \u0628\u06cc\u0646 \u0641\u0631\u0627\u0646\u062a\u200c\u0627\u0646\u062f \u0648 \u0645\u062f\u0644 \u0645\u0648\u0644\u062f \u0631\u0627 \u062f\u0627\u0631\u062f. \u0627\u06af\u0631 \u0627\u0632 \u0633\u0631\u0648\u06cc\u0633 \u062e\u0627\u0631\u062c\u06cc \u0645\u0627\u0646\u0646\u062f OpenAI \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u0645\u06cc\u200c\u06a9\u0646\u06cc\u062f\u060c \u06a9\u0644\u06cc\u062f API \u0631\u0627 \u0627\u0645\u0646 \u0646\u06af\u0647 \u062f\u0627\u0631\u06cc\u062f \u0648 \u062f\u0631\u062e\u0648\u0627\u0633\u062a \u0631\u0627 \u0627\u0632 \u0637\u0631\u06cc\u0642 Lambda \u0627\u0631\u0633\u0627\u0644 \u06a9\u0646\u06cc\u062f.<\/p>\n \u0627\u06af\u0631 \u0645\u062f\u0644 \u0631\u0627 \u0631\u0648\u06cc \u0633\u0631\u0648\u0631 GPU \u062e\u0648\u062f \u0645\u06cc\u0632\u0628\u0627\u0646\u06cc \u0645\u06cc\u200c\u06a9\u0646\u06cc\u062f\u060c Lambda \u06cc\u0627 \u0633\u0631\u0648\u06cc\u0633 \u0628\u06a9\u200c\u0627\u0646\u062f \u062f\u0631\u062e\u0648\u0627\u0633\u062a \u0631\u0627 \u0628\u0647 endpoint \u0622\u0646 \u0627\u0631\u0633\u0627\u0644 \u0645\u06cc\u200c\u06a9\u0646\u062f:<\/p>\n <\/p>\n \u0628\u0631\u0627\u06cc \u067e\u0627\u0633\u062e\u200c\u0647\u0627\u06cc \u0637\u0648\u0644\u0627\u0646\u06cc \u06cc\u0627 \u0627\u0633\u062a\u0631\u06cc\u0645 \u062a\u0648\u06a9\u0646\u200c\u0647\u0627 \u0627\u0632 WebSocket \u06cc\u0627 Server-Sent Events \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0646\u06cc\u062f. \u062f\u0631 AWS \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f \u0627\u0632 API Gateway WebSocket \u06cc\u0627 AppSync Subscriptions \u0628\u0647\u0631\u0647 \u0628\u0628\u0631\u06cc\u062f.<\/p>\n <\/p>\n Amplify Hosting \u0627\u0645\u06a9\u0627\u0646 \u0631\u0627\u0647\u200c\u0627\u0646\u062f\u0627\u0632\u06cc CI\/CD \u0627\u0632 \u0645\u062e\u0632\u0646 Git \u0631\u0627 \u0641\u0631\u0627\u0647\u0645 \u0645\u06cc\u200c\u06a9\u0646\u062f\u061b \u0647\u0631 push \u0628\u0647 \u0634\u0627\u062e\u0647\u0654 \u0645\u0634\u062e\u0635 \u0628\u0627\u0639\u062b build \u0648 deploy \u062e\u0648\u062f\u06a9\u0627\u0631 \u0645\u06cc\u200c\u0634\u0648\u062f.<\/p>\n <\/p>\n <\/p>\n \u0627\u0632 AWS Secrets Manager<\/strong> \u0628\u0631\u0627\u06cc \u0646\u06af\u0647\u062f\u0627\u0631\u06cc \u06a9\u0644\u06cc\u062f API \u0648 \u0631\u0645\u0632\u0647\u0627 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0646\u06cc\u062f. IAM role \u0628\u0631\u0627\u06cc Lambda \u0628\u0627\u06cc\u062f \u062a\u0646\u0647\u0627 \u0634\u0627\u0645\u0644 \u062f\u0633\u062a\u0631\u0633\u06cc \u062e\u0648\u0627\u0646\u062f\u0646 \u0628\u0647 secret \u0645\u0634\u062e\u0635 \u0628\u0627\u0634\u062f.<\/p>\n <\/p>\n \u0646\u0645\u0648\u0646\u0647 policy \u062d\u062f\u0627\u0642\u0644\u06cc \u06a9\u0647 \u0628\u0647 Lambda \u0627\u062c\u0627\u0632\u0647 \u062e\u0648\u0627\u0646\u062f\u0646 \u06cc\u06a9 Secret \u0645\u0634\u062e\u0635 \u0631\u0627 \u0645\u06cc\u200c\u062f\u0647\u062f:<\/p>\n <\/p>\n \u0628\u0631\u0627\u06cc \u0645\u062d\u0627\u0641\u0638\u062a \u0627\u0632 \u0627\u067e\u0644\u06cc\u06a9\u06cc\u0634\u0646:<\/p>\n <\/p>\n \u0627\u0646\u062a\u062e\u0627\u0628 Region \u0645\u0646\u0627\u0633\u0628 \u0628\u0631 \u0627\u0633\u0627\u0633 \u062a\u0648\u0632\u06cc\u0639 \u06a9\u0627\u0631\u0628\u0631\u0627\u0646 \u0648 \u0627\u0644\u0632\u0627\u0645\u0627\u062a \u0642\u0627\u0646\u0648\u0646\u06cc \u0627\u0647\u0645\u06cc\u062a \u062f\u0627\u0631\u062f. \u0646\u06a9\u0627\u062a \u0631\u0627\u06cc\u062c:<\/p>\n \u0628\u0631\u0627\u06cc \u06a9\u0627\u0631\u0628\u0631\u0627\u0646 \u062a\u0648\u0632\u06cc\u0639\u200c\u0634\u062f\u0647 \u0627\u0632 CDN (CloudFront) \u0648 \u062a\u0648\u0632\u06cc\u0639 \u0645\u062f\u0644 \u062f\u0631 \u0686\u0646\u062f Region \u06cc\u0627 edge inference \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0646\u06cc\u062f.<\/p>\n \u0627\u06af\u0631 \u0646\u06cc\u0627\u0632 \u0628\u0647 \u062a\u0623\u062e\u06cc\u0631 \u0628\u0633\u06cc\u0627\u0631 \u067e\u0627\u06cc\u06cc\u0646<\/strong> \u06cc\u0627 \u06a9\u0646\u062a\u0631\u0644 \u06a9\u0627\u0645\u0644 \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u062f\u0627\u0631\u06cc\u062f\u060c \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f \u0645\u062f\u0644 \u0631\u0627 \u0631\u0648\u06cc \u0633\u0631\u0648\u0631 GPU \u0634\u0631\u06a9\u062a \u0628\u0627 \u0628\u06cc\u0634 \u0627\u0632 85+ \u0644\u0648\u06a9\u06cc\u0634\u0646 \u0645\u06cc\u0632\u0628\u0627\u0646\u06cc \u06a9\u0646\u06cc\u062f \u06a9\u0647 \u0645\u0632\u0627\u06cc\u0627\u06cc \u06a9\u0627\u0647\u0634 latency\u060c \u06a9\u0646\u062a\u0631\u0644 \u062f\u0627\u062f\u0647 \u0648 \u0627\u0645\u06a9\u0627\u0646\u0627\u062a anti-DDoS \u0633\u062e\u062a\u200c\u0627\u0641\u0632\u0627\u0631\u06cc \u0631\u0627 \u0641\u0631\u0627\u0647\u0645 \u0645\u06cc\u200c\u06a9\u0646\u062f.<\/p>\n <\/p>\n \u0645\u0642\u0627\u06cc\u0633\u0647\u0654 \u06a9\u0644\u06cc \u0628\u06cc\u0646 \u0633\u0631\u0648\u06cc\u0633\u200c\u0647\u0627\u06cc Managed \u0648 Self-hosted \u0631\u0648\u06cc GPU:<\/p>\n \u062a\u0648\u0635\u06cc\u0647:<\/strong> \u0628\u0631\u0627\u06cc PoC \u0627\u0632 Managed \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0646\u06cc\u062f\u061b \u0628\u0631\u0627\u06cc \u062d\u062c\u0645 \u0628\u0627\u0644\u0627 \u0648 \u0646\u06cc\u0627\u0632 \u0628\u0647 \u06a9\u0645\u062a\u0631\u06cc\u0646 \u062a\u0623\u062e\u06cc\u0631 \u0628\u0647 \u0633\u0631\u0648\u0631 GPU \u0645\u0647\u0627\u062c\u0631\u062a \u06a9\u0646\u06cc\u062f.<\/p>\n <\/p>\n <\/p>\n \u0627\u06af\u0631 \u0645\u062f\u0644 \u0631\u0648\u06cc \u06cc\u06a9 \u0633\u0631\u0648\u0631 GPU \u0627\u062c\u0631\u0627 \u0645\u06cc\u200c\u0634\u0648\u062f\u060c \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f \u06cc\u06a9 reverse proxy \u0628\u0627 Nginx \u062a\u0646\u0638\u06cc\u0645 \u06a9\u0646\u06cc\u062f:<\/p>\n <\/p>\n \u0686\u0646\u062f \u062a\u0648\u0635\u06cc\u0647 \u0639\u0645\u0644\u06cc \u0628\u0631\u0627\u06cc \u0645\u062d\u0627\u0641\u0638\u062a \u0627\u0632 \u062f\u0627\u062f\u0647\u200c\u0647\u0627 \u0648 \u0631\u0639\u0627\u06cc\u062a \u0642\u0648\u0627\u0646\u06cc\u0646:<\/p>\n <\/p>\n <\/p>\n \u0646\u06a9\u0627\u062a \u0639\u0645\u0644\u06cc \u0628\u0631\u0627\u06cc \u06a9\u0627\u0647\u0634 latency \u0648 \u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u062a\u062c\u0631\u0628\u0647 \u06a9\u0627\u0631\u0628\u0631\u06cc \u062f\u0631 \u0633\u0637\u0648\u062d \u062c\u0647\u0627\u0646\u06cc:<\/p>\n <\/p>\n <\/p>\n \u0628\u0631\u0627\u06cc \u06a9\u0645\u06a9 \u062f\u0631 \u0627\u0646\u062a\u062e\u0627\u0628 \u0628\u0647\u062a\u0631\u06cc\u0646 \u062a\u0631\u06a9\u06cc\u0628 Region\u060c GPU \u0648 \u0634\u0628\u06a9\u0647 \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u06cc\u062f \u0627\u0632 \u067e\u0644\u0646\u200c\u0647\u0627\u06cc \u0645\u06cc\u0632\u0628\u0627\u0646\u06cc \u0648 \u0633\u0631\u0648\u0631\u0647\u0627\u06cc \u06af\u0631\u0627\u0641\u06cc\u06a9\u06cc \u0628\u0627 \u0628\u06cc\u0634 \u0627\u0632 85 \u0644\u0648\u06a9\u06cc\u0634\u0646 \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0646\u06cc\u062f. \u062a\u06cc\u0645 \u0641\u0646\u06cc \u0645\u06cc\u200c\u062a\u0648\u0627\u0646\u062f \u062f\u0631 \u0645\u0647\u0627\u062c\u0631\u062a \u0645\u062f\u0644\u200c\u0647\u0627 \u0648 \u062a\u0646\u0638\u06cc\u0645 CI\/CD \u0631\u0627\u0647\u0646\u0645\u0627\u06cc\u06cc \u0627\u0631\u0627\u0626\u0647 \u062f\u0647\u062f.<\/p>\n <\/p>\n\n
\n<\/div>\n\u0645\u0631\u0627\u062d\u0644 \u0639\u0645\u0644\u06cc \u0633\u0627\u062e\u062a \u0628\u0631\u0646\u0627\u0645\u0647 (\u06af\u0627\u0645\u200c\u0628\u0647\u200c\u06af\u0627\u0645)<\/span><\/h2>\n
1. \u0622\u0645\u0627\u062f\u0647\u200c\u0633\u0627\u0632\u06cc \u0645\u062d\u06cc\u0637 \u062a\u0648\u0633\u0639\u0647<\/span><\/h3>\n
curl -sL https:\/\/deb.nodesource.com\/setup_18.x | sudo -E bash -\r\nsudo apt-get install -y nodejs\r\nnpm install -g @aws-amplify\/cli\r\ngit clone <repo>\r\ncd <repo>\r\nnpm install<\/code><\/pre>\n<\/div>\naws configure\r\namplify configure\r\namplify init<\/code><\/pre>\n<\/div>\n2. \u0627\u0641\u0632\u0648\u062f\u0646 \u0627\u062d\u0631\u0627\u0632 \u0647\u0648\u06cc\u062a \u0628\u0627 Cognito<\/span><\/h3>\n
amplify add auth\r\n# choose default or manual configuration\r\namplify push<\/code><\/pre>\n<\/div>\n3. \u0627\u06cc\u062c\u0627\u062f API \u0633\u0631\u0648\u0631\u0644\u0633 (REST \u06cc\u0627 GraphQL)<\/span><\/h3>\n
amplify add api\r\n# choose REST and Lambda function template\r\namplify push<\/code><\/pre>\n<\/div>\namplify add api\r\n# choose GraphQL + DynamoDB\r\namplify push<\/code><\/pre>\n<\/div>\n4. \u0646\u0648\u0634\u062a\u0646 Lambda \u06a9\u0647 \u0628\u0627 \u0645\u062f\u0644 Generative AI \u062a\u0639\u0627\u0645\u0644 \u0645\u06cc\u200c\u06a9\u0646\u062f<\/span><\/h3>\n
const fetch = require('node-fetch');\r\nexports.handler = async (event) => {\r\n const prompt = JSON.parse(event.body).prompt;\r\n const apiKey = process.env.OPENAI_API_KEY;\r\n const res = await fetch('https:\/\/api.openai.com\/v1\/chat\/completions', {\r\n method: 'POST',\r\n headers: { 'Authorization': `Bearer ${apiKey}`, 'Content-Type': 'application\/json' },\r\n body: JSON.stringify({\r\n model: 'gpt-4o-mini',\r\n messages: [{ role: 'user', content: prompt }]\r\n })\r\n });\r\n const data = await res.json();\r\n return { statusCode: 200, body: JSON.stringify(data) };\r\n};<\/code><\/pre>\n<\/div>\n[p class=”wp-block-paragraph”]\u0628\u0631\u0627\u06cc \u0645\u062d\u0631\u0645\u0627\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u06a9\u0644\u06cc\u062f\u060c \u0627\u0632 AWS Secrets Manager<\/strong> \u06cc\u0627 environment variables \u0628\u0627 encryption \u0627\u0633\u062a\u0641\u0627\u062f\u0647 \u06a9\u0646\u06cc\u062f. IAM role \u062a\u0627\u0628\u0639 Lambda \u0631\u0627 \u0637\u0648\u0631\u06cc \u0645\u062d\u062f\u0648\u062f \u06a9\u0646\u06cc\u062f \u06a9\u0647 \u062a\u0646\u0647\u0627 \u062f\u0633\u062a\u0631\u0633\u06cc \u062e\u0648\u0627\u0646\u062f\u0646 \u0628\u0647 secret \u0645\u0634\u062e\u0635 \u0631\u0627 \u062f\u0627\u0634\u062a\u0647 \u0628\u0627\u0634\u062f.[\/p]\nconst res = await fetch('https:\/\/gpu.example.com\/inference', {\r\n method: 'POST',\r\n headers: { 'Authorization': `Bearer ${process.env.MODEL_TOKEN}`, 'Content-Type': 'application\/json' },\r\n body: JSON.stringify({ inputs: prompt })\r\n});<\/code><\/pre>\n<\/div>\n
\n<\/div>\n5. \u067e\u06cc\u0627\u062f\u0647\u200c\u0633\u0627\u0632\u06cc Streaming\/Realtime (\u0627\u062e\u062a\u06cc\u0627\u0631\u06cc)<\/span><\/h3>\n
6. \u0645\u06cc\u0632\u0628\u0627\u0646\u06cc \u0641\u0631\u0627\u0646\u062a\u200c\u0627\u0646\u062f \u0628\u0627 Amplify Hosting \u0648 CI\/CD<\/span><\/h3>\n
amplify hosting add\r\namplify publish<\/code><\/pre>\n<\/div>\n\u0627\u0645\u0646\u06cc\u062a\u060c \u0645\u062f\u06cc\u0631\u06cc\u062a \u06a9\u0644\u06cc\u062f\u0647\u0627 \u0648 \u0633\u06cc\u0627\u0633\u062a\u200c\u0647\u0627\u06cc IAM<\/span><\/h2>\n
\u0645\u062f\u06cc\u0631\u06cc\u062a \u0627\u0633\u0631\u0627\u0631<\/span><\/h3>\n
\u0633\u06cc\u0627\u0633\u062a\u200c\u0647\u0627\u06cc IAM \u0646\u0645\u0648\u0646\u0647<\/span><\/h3>\n
{\r\n \"Version\": \"2012-10-17\",\r\n \"Statement\": [\r\n {\r\n \"Effect\": \"Allow\",\r\n \"Action\": \"secretsmanager:GetSecretValue\",\r\n \"Resource\": \"arn:aws:secretsmanager:region:acct-id:secret:myOpenAIKey\"\r\n }\r\n ]\r\n}<\/code><\/pre>\n<\/div>\n\u0645\u062d\u0627\u0641\u0638\u062a \u062f\u0631 \u0628\u0631\u0627\u0628\u0631 \u062d\u0645\u0644\u0627\u062a \u0648 \u0627\u06cc\u0645\u0646\u06cc \u0645\u062d\u062a\u0648\u0627<\/span><\/h3>\n
\n
\n<\/div>\n\u0627\u0646\u062a\u062e\u0627\u0628 \u0644\u0648\u06a9\u06cc\u0634\u0646 \u062f\u06cc\u062a\u0627\u0633\u0646\u062a\u0631 \u0648 \u0645\u0642\u0627\u06cc\u0633\u0647 \u0628\u0631\u0627\u06cc Latency \u0648 Compliance<\/span><\/h2>\n
\n
\u0645\u06cc\u0632\u0628\u0627\u0646\u06cc \u0645\u062f\u0644 \u2014 Cloud GPU vs. Managed API (\u0645\u0632\u0627\u06cc\u0627 \u0648 \u0645\u0639\u0627\u06cc\u0628)<\/span><\/h2>\n
\n
\n
\n
\u0628\u0647\u06cc\u0646\u0647\u200c\u0633\u0627\u0632\u06cc \u0639\u0645\u0644\u06a9\u0631\u062f \u0648 \u0647\u0632\u06cc\u0646\u0647<\/span><\/h2>\n
\n
\u0645\u062b\u0627\u0644 \u067e\u06cc\u06a9\u0631\u0628\u0646\u062f\u06cc Nginx reverse proxy \u0628\u0647 Triton on GPU<\/span><\/h3>\n
server {\r\n listen 443 ssl;\r\n server_name ai.example.com;\r\n location \/ {\r\n proxy_pass http:\/\/127.0.0.1:8000;\r\n proxy_set_header Host $host;\r\n proxy_set_header X-Real-IP $remote_addr;\r\n }\r\n }<\/code><\/pre>\n<\/div>\n\u0646\u06a9\u0627\u062a \u0627\u0645\u0646\u06cc\u062a\u06cc \u0646\u0647\u0627\u06cc\u06cc \u0648 \u0631\u0639\u0627\u06cc\u062a \u062d\u0631\u06cc\u0645 \u062e\u0635\u0648\u0635\u06cc<\/span><\/h2>\n
\n
\u0646\u0645\u0648\u0646\u0647 \u06a9\u0627\u0631\u0628\u0631\u062f\u0647\u0627 \u0648 \u0633\u0646\u0627\u0631\u06cc\u0648\u0647\u0627<\/span><\/h2>\n
\n
\u0646\u06a9\u0627\u062a \u0639\u0645\u0644\u06cc \u0628\u0631\u0627\u06cc \u0627\u0633\u062a\u0642\u0631\u0627\u0631 \u062f\u0631 \u0634\u0631\u06a9\u062a \u0645\u0627 (\u0628\u0627 85+ \u0644\u0648\u06a9\u06cc\u0634\u0646)<\/span><\/h2>\n
\n
\u062c\u0645\u0639\u200c\u0628\u0646\u062f\u06cc \u0648 \u0686\u06a9\u200c\u0644\u06cc\u0633\u062a \u0633\u0631\u06cc\u0639 \u0642\u0628\u0644 \u0627\u0632 \u0644\u0627\u0646\u0686<\/span><\/h2>\n
\n
\n<\/div>\n\u06af\u0632\u06cc\u0646\u0647\u200c\u0647\u0627\u06cc \u067e\u0634\u062a\u06cc\u0628\u0627\u0646\u06cc \u0648 \u0645\u0634\u0627\u0648\u0631\u0647 \u0641\u0646\u06cc<\/span><\/h2>\n
\n<\/div>\n\u0633\u0624\u0627\u0644\u0627\u062a \u0645\u062a\u062f\u0627\u0648\u0644<\/span><\/h2>\n