登录
首页 >  Golang >  Go问答

golang中如何从较小的字节数组填充较大的字节数组?

来源:stackoverflow

时间:2024-04-19 18:45:36 289浏览 收藏

亲爱的编程学习爱好者,如果你点开了这篇文章,说明你对《golang中如何从较小的字节数组填充较大的字节数组?》很感兴趣。本篇文章就来给大家详细解析一下,主要介绍一下,希望所有认真读完的童鞋们,都有实质性的提高。

问题内容

因此,我正在从 url 下载一个文件,并将其拆分为带有 content-range 标头的块,并且希望将下载文件流式传输到进度栏。目前,我在将下载的字节写入块时遇到了困难。我的做法如下:

type Chunk struct {
    response _http.Response
    wg       *sync.WaitGroup
    index    int
    start    int64
    end      int64
    size     int64
    data     []byte
    ctx      context.Context
}

func New(ctx context.Context, res _http.Response, index int, wg *sync.WaitGroup) *Chunk {
    totalpart := int64(res.Totalpart)
    partsize := res.Size / totalpart

    start := int64(index * int(partsize))
    end := start + int64(int(partsize)-1)

    if index == int(totalpart)-1 {
        end = res.Size
    }

    return &Chunk{
        response: res,
        wg:       wg,
        index:    index,
        start:    start,
        end:      end,
        size:     partsize,
        data:     make([]byte, partsize),
        ctx:      ctx,
    }
}

func (c *Chunk) download() error {
    defer c.wg.Done()

    http_ := &http.Client{}
    part := fmt.Sprintf("bytes=%d-%d", c.start, c.end)

    if c.size == -1 {
        log.Printf("Downloading chunk %d with size unknown", c.index+1)
    } else {
        log.Printf("Downloading chunk %d from %d to %d (~%d MB)", c.index+1, c.start, c.end, (len(c.data))/(1024*1024))
    }

    req, err := http.NewRequest("GET", c.response.Url, nil)
    if err != nil {
        return err
    }

    start := time.Now()

    req.Header.Add("Range", part)
    res, err := http_.Do(req)
    if err != nil {
        return err
    }

    defer res.Body.Close()

    var _100KB int64 = 1024 * 100
    buffer := make([]byte, _100KB)

    for {
        n, err := io.ReadFull(res.Body, buffer)
        if err == io.EOF {
            break
        }

        //TODO: combine the downloaded bytes into c.data
        c.data = append(c.data, buffer[:n]...)
        runtime.EventsEmit(c.ctx, "transfered", c.index, n)
    }


    // c.data, err = io.ReadAll(res.Body)
    // if err != nil {
    //  return err
    // }

    // runtime.EventsEmit(c.ctx, "transfered", len(c.data))

    elapsed := time.Since(start)
    log.Printf("Chunk %d downloaded in %v s\n", c.index+1, elapsed.Seconds())

    return nil
}

_http.response 是我的自定义结构,用于在下载之前获取 url 的数据(例如文件总大小、可拆分?、总部分和内容类型)。

但是上面的代码有一个问题,即c.data(块数据)的len()变得比实际块大小大。例如,实际视频文件的块大小是 12 mb,但是使用上面的代码,块变得两倍大,当然,当所有块合并到一个视频文件中时,而不是采用 48 mb(例如) ,变成了100mb,下载的视频无法播放。

在我之前的尝试中,我使用了 io.readall(res.body) (我注释的代码),然后将其写入 c.data 中。下载完成后,视频文件可以播放,但是用上面的方法却不能播放。缺点是,我无法流式传输下载,因为我需要完整下载

如果我要在下载块之前和之后记录文件的 len(),则下载过程之后的 len() 将会变大 2 倍。

我认为带有附加的扩展运算符足以从头到尾填充 c.data 的每个元素。我认为,因为它使用的是 append,所以数据是否超过数组启动时的 len() 并不重要。有人知道这个问题吗?任何帮助表示赞赏。预先感谢您


正确答案


确保服务器响应部分内容。

以下是对循环的一些修复,我假设在每个响应上运行:将报告的字节数附加到缓冲区。将读取的任何数据复制到 c.data 后中断。出现任何错误时中断。

for {
    n, err := io.ReadFull(res.Body, buffer)
    c.data = append(c.data, buffer[:n]...)
    if err != nil {
        break
    }

    runtime.EventsEmit(c.ctx, "transfered", c.index, n)
}

无需使用 content-range 来报告进度。请求整个资源并报告读取的字节,如上面的循环所示。

理论要掌握,实操不能落!以上关于《golang中如何从较小的字节数组填充较大的字节数组?》的详细介绍,大家都掌握了吧!如果想要继续提升自己的能力,那么就来关注golang学习网公众号吧!

声明:本文转载于:stackoverflow 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>