登录
首页 >  Golang >  Go问答

在AWS Athena上无法执行查询,Golang SDK无法实现

来源:stackoverflow

时间:2024-03-01 15:42:24 119浏览 收藏

Golang小白一枚,正在不断学习积累知识,现将学习到的知识记录一下,也是将我的所得分享给大家!而今天这篇文章《在AWS Athena上无法执行查询,Golang SDK无法实现》带大家来了解一下##content_title##,希望对大家的知识积累有所帮助,从而弥补自己的不足,助力实战开发!


问题内容

我是 aws 和 golang 的新手,我正在尝试创建一个 lambda 函数,它将触发 aws athena 查询并使用 aws ses 服务通过电子邮件发送结果。即使搜索了一个小时,我也找不到 lambda 函数(golang 中)的工作示例来在 athena 上执行查询并获取查询的输出。

在搜索时,我在 java、python 和 node js 中找到了相同的代码,但在 golang 中没有找到。

甚至 go-sdk 页面也重定向到 java 示例。但不幸的是,我连java都不懂。

我还查看了此 aws sdk for go api 参考页面。但我不明白程序的流程是什么以及选择哪个操作。

我尝试为此创建程序,这可能是完全错误的,我不知道下一步该怎么做。下面是代码 -

package main

import (
    "fmt"
    "github.com/aws/aws-sdk-go/aws"
    "github.com/aws/aws-sdk-go/aws/session"
    "github.com/aws/aws-sdk-go/service/athena"
)

func main() {

    // Create a new session in the us-west-2 region.
    sess, err := session.NewSession(&aws.Config{
        Region: aws.String("us-east-1")},
    )

    // Create an Athena session.
    client := athena.New(sess)

    // Example sending a request using the StartQueryExecutionRequest method.
    query := "SELECT * FROM table1 ;"
    params := query
    req, resp := client.StartQueryExecutionRequest(params)

    err1 := req.Send()
    if err1 == nil { // resp is now filled
        fmt.Println(resp)
    }
}

如果有人可以帮助我执行 athena 查询并在 golang 中获取其结果(最好)或者可以共享一些资源,我将不胜感激。收到后,我就可以使用 aws ses 发送电子邮件。


解决方案


使用它来开始。

// run as: go run main.go
package main

import (
    "context"
    "fmt"

    "github.com/aws/aws-sdk-go-v2/aws"
    "github.com/aws/aws-sdk-go-v2/aws/endpoints"
    "github.com/aws/aws-sdk-go-v2/aws/external"
    "github.com/aws/aws-sdk-go-v2/service/athena"
)

const table = "textqldb.textqltable"
const outputbucket = "s3://bucket-name-here/"

func main() {

    cfg, err := external.loaddefaultawsconfig()
    if err != nil {
        fmt.printf("config error: %v\n", err)
        return
    }

    cfg.region = endpoints.useast2regionid

    client := athena.new(cfg)

    query := "select * from " + table

    resultconf := &athena.resultconfiguration{
        outputlocation: aws.string(outputbucket),
    }

    params := &athena.startqueryexecutioninput{
        querystring:         aws.string(query),
        resultconfiguration: resultconf,
    }

    req := client.startqueryexecutionrequest(params)

    resp, err := req.send(context.todo())
    if err != nil {
        fmt.printf("query error: %v\n", err)
        return
    }

    fmt.println(resp)
}

@everton 的代码正在 athena 上执行查询,其响应将保存在 s3 存储桶上并且不会返回。因此,我添加了代码来执行 athena 查询并获取响应。希望这可以帮助其他人。

// run as: go run main.go
package main

import (
    "context"
    "fmt"
    "time"

    "github.com/aws/aws-sdk-go-v2/aws"
    "github.com/aws/aws-sdk-go-v2/aws/endpoints"
    "github.com/aws/aws-sdk-go-v2/aws/external"
    "github.com/aws/aws-sdk-go-v2/service/athena"
)

const table = "."
const outputBucket = "s3://bucket-name-here/"

// Execute the query and return the query ID
func executeQuery(query string) *string {

    cfg, err := external.LoadDefaultAWSConfig()
    if err != nil {
        fmt.Printf("config error: %v\n", err)
    }

    cfg.Region = endpoints.UsEast2RegionID

    client := athena.New(cfg)

    resultConf := &athena.ResultConfiguration{
        OutputLocation: aws.String(outputBucket),
    }

    params := &athena.StartQueryExecutionInput{
        QueryString:         aws.String(query),
        ResultConfiguration: resultConf,
    }

    req := client.StartQueryExecutionRequest(params)

    resp, err := req.Send(context.TODO())
    fmt.Println("Response is: ", resp, " Error is:", err)

    if err != nil {
        fmt.Printf("Query Error: %v\n", err)
    }

    fmt.Println("Query Execution Response ID:", resp.QueryExecutionId)
    return resp.QueryExecutionId
}

// Takes queryId as input and returns its response
func getQueryResults(QueryID *string) (*athena.GetQueryResultsResponse, error) {

    cfg, err := external.LoadDefaultAWSConfig()
    if err != nil {
        panic("config error")
    }

    cfg.Region = endpoints.UsEast2RegionID
    client := athena.New(cfg)
    params1 := &athena.GetQueryResultsInput{
        QueryExecutionId: QueryID,
    }
    req := client.GetQueryResultsRequest(params1)

    resp, err := req.Send(context.TODO())

    if err != nil {
        fmt.Printf("Query Response Error: %v\n", err)
        return nil, err
    }
    return resp, nil

}

func main() {

    query := "select * from " + table

    // Execute an Athena Query
    QueryID := executeQuery(query)


    // Get the response of the query

    // Wait for some time for query completion
    time.Sleep(15 * time.Second) // Otherwise create a loop and try for every x seconds
    Resp, err := getQueryResults(QueryID)

    if err != nil {
        fmt.Printf("Error getting Query Response: %v\n", err)
    } else {
        fmt.Println(" \nRows:", Resp.ResultSet.Rows)
    }

}

理论要掌握,实操不能落!以上关于《在AWS Athena上无法执行查询,Golang SDK无法实现》的详细介绍,大家都掌握了吧!如果想要继续提升自己的能力,那么就来关注golang学习网公众号吧!

声明:本文转载于:stackoverflow 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>