Tutorial API GPT-6 Astra: Membangun Agen AI untuk Produksi

TL;DR

GPT-6 Astra API di CometAPI paling cocok untuk alur kerja agen yang sulit dan menggabungkan penalaran, kode, interaksi browser atau komputer, serta beberapa alat eksternal. Ini adalah model premium, sehingga tim sebaiknya menggunakannya untuk tugas-tugas di mana tingkat keberhasilan yang lebih baik layak dengan harga token yang lebih tinggi.

Pola desain praktisnya adalah loop eksekusi dengan alat eksplisit, izin sisi-aplikasi, verifikasi, anggaran, dan persetujuan manusia untuk tindakan yang berakibat. Mulailah dengan Responses API, ukur biaya per tugas yang diterima, dan rute-kan sub-tugas rutin ke model yang lebih murah.

Pokok-Pokok Utama

• Astra menargetkan pekerjaan profesional end-to-end alih-alih hanya generasi teks terisolasi.
• Peningkatan terkuat yang dilaporkan terkonsentrasi pada penggunaan komputer, tugas terminal, otomasi, penalaran ilmiah, dan alur kerja profesional multi-langkah.
• Pemanggilan alat asinkron, pengarahan di tengah giliran, dan pembaruan penalaran dinamis membuat loop agen yang berjalan lama lebih lentur.
• Model mendukung jendela konteks 1,05 juta token, namun pengambilan (retrieval) dan manajemen state tetap diperlukan.
• Kualitas produksi bergantung pada izin, idempoten, validasi, keteramatan, dan evaluasi di luar prompt.

Apa Itu Astra API, dan Pekerjaan Agen Mana yang Cocok?

OpenAI menggambarkan Astra sebagai modelnya yang paling cakap untuk penalaran kompleks, pengkodean, penggunaan komputer, riset, dan pembuatan dokumen. Spesifikasi resmi menyediakan konteks 1.050.000 token dan batas output 128.000 token. Teks dan gambar diterima sebagai input, sedangkan teks adalah modalitas output native.

Visual peluncuran OpenAI GPT-6 Astra

Jendela konteks yang besar mengurangi kebutuhan untuk memecah setiap input, namun tidak boleh diperlakukan sebagai sistem memori. Fakta yang tahan lama, bukti yang diambil, state eksekusi sementara, dan output alat harus disimpan terpisah agar agen hanya menerima yang diperlukan untuk keputusan saat ini.

Tolok Ukur Agen GPT-6 Astra

Evaluasi yang paling berguna adalah yang memerlukan pengoperasian perangkat lunak, pekerjaan terminal, interaksi visual, atau penyelesaian alur kerja profesional. Hasil yang dilaporkan OpenAI menunjukkan peningkatan lebih besar pada tugas yang berat eksekusi daripada pada indeks kecerdasan umum.

GPT-6 Astra unggul atas GPT-5.6 Sol dan Claude Fable 5.1 pada setiap baris tolok ukur di mana ketiganya memiliki skor. Keunggulan terkecilnya atas Claude Fable 5.1 adalah 2.1 poin persentase pada Terminal-Bench 4.0, sementara keunggulan lebih besar muncul pada AutomationBench, FrontierMath Tier 4 v2, GPQA Diamond, dan tugas migrasi basis data. OpenAI juga melaporkan 47% waktu tugas simulasi lebih rendah pada perbandingan OSWorld, yang penting ketika latensi agen memengaruhi throughput bisnis.

Gunakan hasil tolok ukur untuk memilih beban kerja untuk pengujian. Buat keputusan akhir dengan set evaluasi yang dibangun dari alat, izin, mode kegagalan, dan kriteria penerimaan Anda sendiri.

Fitur Astra Mana yang Mengubah Arsitektur Agen?

Pemanggilan Alat Asinkron GPT-6 Astra

Pemanggilan alat asinkron memungkinkan model melanjutkan penalaran yang berguna, memanggil alat yang independen, atau menjawab bagian permintaan yang tidak terkait sementara aplikasi menjalankan operasi lambat. Aplikasi tetap mengeksekusi alat dan harus mengembalikan hasilnya menggunakan ID panggilan asli.

Ini berguna saat alur kerja menanyakan gudang data, menunggu pekerjaan rendering, memeriksa beberapa API, dan menyiapkan laporan secara bersamaan. Tindakan independen dapat berlangsung konkuren alih-alih memaksa seluruh loop agen menunggu.

Pengarahan di Tengah Giliran GPT-6 Astra

Pengarahan di tengah giliran dan pembaruan penalaran memungkinkan aplikasi menambahkan instruksi saat pekerjaan sedang berlangsung atau mengubah upaya penalaran tanpa menulis ulang prefiks prompt asli. Hal ini mendukung koreksi dan reprioritisasi selama pekerjaan yang berjalan lama.

Desain Alat Terstruktur GPT-6 Astra

Function calling dan Structured Outputs memberikan alat operasi bernama dan argumen bertipe. Model mengusulkan tindakan, sementara aplikasi memvalidasi izin, skema, anggaran, dan aturan bisnis sebelum eksekusi. Pemisahan ini lebih andal daripada meminta model mengekspresikan operasi tulis dalam bahasa alami.

Bagaimana Anda Mengarsitektur Agen Astra?

Permintaan model bahasa konvensional mengikuti jalur pendek: prompt, model, jawaban. Sebuah agen memerlukan loop yang dapat diamati:

Tujuan → seleksi konteks → rencana → pilihan alat → tindakan berizin → observasi → verifikasi → selesai atau eskalasi

Setiap transisi menciptakan kemungkinan kegagalan: pemilihan alat yang salah, argumen tidak berbentuk, output yang disalahpahami, tindakan duplikat, penulisan tidak berizin, anggaran terlampaui, atau penyelesaian prematur. Oleh karena itu, aplikasi di sekitarnya harus memiliki otoritas eksekusi dan validasi.

Bagaimana Cara Memanggil Astra API Melalui CometAPI?

GPT-6 Astra API di CometAPI menggunakan model ID gpt-6-astra melalui workflow Responses yang kompatibel dengan OpenAI. Selesaikan langkah penyiapan ini sebelum mengirim permintaan pertama:

1. Buat akun CometAPI, aktifkan akses ke GPT-6 Astra, dan buat kunci API.
2. Instal atau tingkatkan OpenAI Python SDK dengan pip install --upgrade openai.
3. Simpan kunci dan base URL yang kompatibel OpenAI di COMETAPI_KEY dan COMETAPI_BASE_URL; jangan pernah hardcode rahasia produksi.
4. Konfirmasikan bahwa endpoint Responses dan model ID gpt-6-astra diaktifkan untuk workspace, lalu jalankan contoh di bawah ini.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["COMETAPI_KEY"],
    base_url=os.environ["COMETAPI_BASE_URL"],
)

response = client.responses.create(
    model="gpt-6-astra",
    reasoning={"effort": "medium"},
    input=(
        "Analyze this operational incident. Identify the probable root cause, "
        "propose a remediation plan, and separate confirmed facts from assumptions."
    ),
)

print(response.output_text)

Integrasi pertama yang berhasil seharusnya mengembalikan objek respons dan output_text yang dapat dibaca. Di produksi, tambahkan timeout eksplisit, ulangi hanya kegagalan transien, dan log ID permintaan, model, latensi, penggunaan token, serta status akhir workflow.

Bagaimana Cara Membangun Agen Astra dengan Tool-Calling?

Contoh berikut memisahkan alat baca dari alat tulis yang berakibat. Model dapat meminta refund, namun kode aplikasi tetap harus memvalidasi otorisasi dan kelayakan.

tools = [
    {
        "type": "function",
        "name": "get_order",
        "description": "Read an order. This tool has no side effects.",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
            "additionalProperties": False,
        },
    },
    {
        "type": "function",
        "name": "check_refund_eligibility",
        "description": "Check eligibility without issuing a refund.",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
            "additionalProperties": False,
        },
    },
    {
        "type": "function",
        "name": "create_refund_request",
        "description": "Create a request after authorization and eligibility checks.",
        "parameters": {
            "type": "object",
            "properties": {
                "order_id": {"type": "string"},
                "reason": {"type": "string"},
            },
            "required": ["order_id", "reason"],
            "additionalProperties": False,
        },
    },
]

response = client.responses.create(
    model="gpt-6-astra",
    reasoning={"effort": "medium"},
    tools=tools,
    input=(
        "Order A18422 arrived damaged. Determine whether a refund is allowed. "
        "Do not create a request until eligibility has been verified."
    ),
)
``````python
import json

def execute_tool(name, arguments):
    if name == "get_order":
        return get_order(**arguments)
    if name == "check_refund_eligibility":
        return check_refund_eligibility(**arguments)
    if name == "create_refund_request":
        assert_user_is_authorized()
        assert_refund_is_eligible(arguments["order_id"])
        return create_refund_request(**arguments)
    raise ValueError(f"Unknown tool: {name}")

while True:
    calls = [item for item in response.output if item.type == "function_call"]
    if not calls:
        break

    outputs = []
    for call in calls:
        result = execute_tool(call.name, json.loads(call.arguments))
        outputs.append({
            "type": "function_call_output",
            "call_id": call.call_id,
            "output": json.dumps(result),
        })

    response = client.responses.create(
        model="gpt-6-astra",
        previous_response_id=response.id,
        tools=tools,
        input=outputs,
    )

print(response.output_text)

Model merekomendasikan tindakan. Aplikasi memegang otoritas. Alat tulis harus secara independen menegakkan izin, batas, idempoten, dan kondisi kebijakan.

Bagaimana Mengotomatiskan Alur Kerja yang Panjang dengan Astra?

Agen riset produksi sebaiknya menerima tujuan terstruktur daripada instruksi samar untuk meneliti beberapa perusahaan.

{
  "objective": "Create a competitor launch brief",
  "companies": ["Competitor A", "Competitor B", "Competitor C"],
  "required_fields": [
    "latest product",
    "launch date",
    "price",
    "key differentiators",
    "primary sources"
  ],
  "output": "executive brief"
}

1. Tetapkan tujuan. Tentukan field yang diperlukan, format output, tenggat waktu, dan kriteria penerimaan.
2. Ambil bukti. Gunakan penelusuran web, pencarian file, basis data, atau sistem terhubung MCP untuk informasi terkini.
3. Validasi bukti. Beri label sumber primer, sumber sekunder, inferensi, konflik, dan data yang hilang.
4. Eskalasi ketidakpastian. Minta lebih banyak bukti atau penilaian manusia saat kepercayaan di bawah ambang yang diperlukan.
5. Hasilkan dan verifikasi artefak. Periksa setiap field yang diperlukan sebelum menyatakan selesai.

Desain ini membuat penanganan bukti dapat diaudit dan menjaga penalaran model terpisah dari aturan penerimaan sistem.

Kapan Agen Astra Harus Menggunakan Otomasi Komputer?

Pilih antarmuka yang paling terstruktur yang tersedia: basis data atau antarmuka kueri, lalu API, kemudian MCP atau alat bertipe lain, dan terakhir peramban atau interaksi komputer. Antarmuka terstruktur menyediakan field yang stabil, kesalahan yang dapat diprediksi, autentikasi, dan output yang dapat dibaca mesin.

Otomasi komputer tepat ketika tidak ada API yang dapat digunakan, aplikasi warisan harus dioperasikan, alur kerja bergantung pada inspeksi visual, atau agen harus menguji antarmuka pengguna nyata. Hasil 92.7% ScreenSpot-Pro dan 72.6% OSWorld 2.0 Astra mendukung penggunaannya untuk interaksi visual, namun alur kerja tersebut tetap memerlukan lingkungan terkontrol dan kebijakan eksplisit.

Bagaimana Membuat Agen Astra Aman untuk Produksi?

Keamanan agen terutama merupakan masalah arsitektur aplikasi. OpenAI menempatkan Astra pada ambang kemampuan keamanan siber Kritis, yang meningkatkan pentingnya batas akses dan auditabilitas.

Pisahkan Alat Baca dan Tulis

Pertahankan operasi baca tersedia secara luas jika sesuai, namun minta pemeriksaan lebih ketat untuk operasi tulis. Hindari satu alat generik yang dapat sekaligus menginspeksi dan memodifikasi sistem sensitif.

Minta Persetujuan untuk Tindakan Berakibat

Gunakan gerbang persetujuan untuk menghapus data, memublikasikan ke eksternal, mengubah produksi, memberikan izin, mengirim uang, membatalkan akun, atau mengeksekusi transaksi berdampak tinggi lainnya.

Buat Setiap Tindakan Tulis Idempoten

Pembayaran, refund, pesan, dan pembaruan akun harus menerima kunci idempoten sehingga percobaan ulang tidak menimbulkan efek samping duplikat.

Tegakkan Anggaran di Luar Prompt

Lacak token, panggilan alat, biaya finansial, waktu dinding, dan langkah alur kerja dalam kode. Akhiri secara deterministik ketika batas tercapai.

Catat Lintasan Eksekusi

Rekam tujuan, model, konfigurasi penalaran, alat yang dipilih, argumen, hasil, hasil otorisasi, peristiwa persetujuan, kesalahan, percobaan ulang, penggunaan token, dan status akhir.

Harga Astra API

Tarif Standar resmi adalah $10/M input dan $50/M output untuk prompt dalam tier konteks standar. Permintaan di atas 272K token input dikenai tarif konteks panjang yang lebih tinggi untuk seluruh permintaan.

Harga token saja tidak menggambarkan ekonomi agen. Gunakan ukuran operasional berikut:

Biaya per tugas yang diterima

= token model + biaya alat + percobaan ulang + infrastruktur + koreksi manusia, dibagi jumlah tugas yang diselesaikan dengan benar.

Bagaimana Perbandingan Astra dengan Model Agen Lain?

Astra adalah pilihan terkuat ketika eksekusi multi-langkah yang sulit menjadi hambatan. Sol lebih cocok secara ekonomi ketika alur kerja yang ada sudah andal. Fable tetap kompetitif untuk pekerjaan premium long-horizon, sementara Gemini menawarkan profil biaya dan modalitas berbeda untuk aplikasi multimodal volume tinggi.

Sistem praktis dapat merutekan tugas berdasarkan kompleksitas alih-alih memilih satu model untuk setiap permintaan.

Memilih GPT-6 Astra: Optimasi Biaya dan Kapan Menggunakannya

• Rute-kan berdasarkan kompleksitas terukur. Gunakan router berbasis evaluasi untuk memesan GPT-6 Astra bagi tugas yang kedalaman penalaran, penggunaan alat, atau biaya kegagalannya membenarkan eskalasi.
• Cache prefiks yang stabil. Gunakan kembali kebijakan, skema, dan dokumentasi yang tidak berubah antar permintaan.
• Ambil konteks yang relevan. Jangan memenuhi jendela sejuta token hanya karena tersedia.
• Batasi langkah agen. Tetapkan kondisi penyelesaian dan penghentian sebelum eksekusi dimulai.
• Sesuaikan upaya penalaran. Gunakan low atau medium untuk sub-tugas deterministik dan tingkatkan hanya saat ambiguitas atau kegagalan verifikasi membenarkan biaya.
• Jalankan alat independen secara konkuren. Kurangi latensi waktu dinding tanpa menambah giliran model yang tidak perlu.
• Terapkan aturan keputusan akhir. Gunakan GPT-6 Astra untuk penalaran sulit yang dikombinasikan dengan eksekusi long-horizon, rekayasa perangkat lunak, pengoperasian komputer, banyak alat eksternal, pembuatan artefak profesional, atau biaya kegagalan yang tinggi. Gunakan model berbiaya lebih rendah untuk klasifikasi, ekstraksi, penandaan, ringkasan rutin, dan permintaan bernilai rendah yang sensitif terhadap latensi—kecuali evaluasi menunjukkan bahwa Astra secara material mengurangi biaya per tugas yang diterima.

Metrik Produksi Mana yang Penting untuk Agen Astra?

Ukuran produksi utama adalah persentase pekerjaan yang diselesaikan dengan benar, aman, dan sesuai anggaran.

FAQ

Apa model ID Astra API?

Model ID adalah gpt-6-astra.

Apakah Astra mendukung function calling?

Ya. Ia mendukung function calling dan Structured Outputs. Pemanggilan alat harus menggunakan Responses API.

Apakah Astra mendukung MCP?

Ya. MCP termasuk di antara alat Responses API-nya.

Dapatkah Astra mengendalikan komputer?

Ya. Penggunaan komputer didukung, tetapi aplikasi harus menyediakan lingkungan terkontrol, batas kebijakan, dan verifikasi.

Apa itu pemanggilan alat asinkron?

Ini memungkinkan model melanjutkan pekerjaan yang berguna saat aplikasi mengeksekusi panggilan alat asinkron yang lambat.

Apa itu pengarahan di tengah giliran?

Ini memungkinkan aplikasi mengirim instruksi yang diperbarui saat tugas sudah berjalan.

Seberapa besar jendela konteks Astra?

Ia mendukung 1,050,000 token konteks dan hingga 128,000 token output.

Berapa biaya Astra?

Harga OpenAI Standard dimulai dari $10/M input dan $50/M output untuk tier konteks standar. Harga gateway dapat berbeda menurut penyedia dan tier konteks.

Haruskah setiap agen menggunakan Astra?

Tidak. Pilih saat tingkat penyelesaian yang lebih tinggi mengimbangi harganya yang lebih tinggi. Rute-kan sub-tugas yang dapat diprediksi dan ber volume tinggi ke model yang lebih murah.

Dapatkah saya membangun agen Astra melalui CometAPI?

Ya. CometAPI mengekspos workflow Responses yang kompatibel dengan OpenAI. Validasi setiap alat dan parameter yang diperlukan aplikasi Anda sebelum memindahkan trafik produksi.