登录
注册
开源
企业版
高校版
搜索
帮助中心
使用条款
关于我们
开源
企业版
高校版
私有云
Gitee AI
NEW
我知道了
查看详情
登录
注册
代码拉取完成,页面将自动刷新
开源项目
>
程序开发
>
网络工具
&&
捐赠
捐赠前请先登录
取消
前往登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
Watch
不关注
关注所有动态
仅关注版本发行动态
关注但不提醒动态
81
Star
619
Fork
136
bitepeng
/
百灵快传 b0pass
代码
Issues
10
Pull Requests
0
Wiki
统计
流水线
服务
Gitee Pages
质量分析
Jenkins for Gitee
腾讯云托管
腾讯云 Serverless
悬镜安全
阿里云 SAE
Codeblitz
我知道了,不再自动展开
更新失败,请稍后重试!
Issues
/
详情
移除标识
内容风险标识
本任务被
标识为内容中包含有代码安全 Bug 、隐私泄露等敏感信息,仓库外成员不可访问
大文件断点续传
待办的
#I8BVSC
860072661
创建于
2023-10-30 10:41
支持高性能的大文件(大都数是4GB以上)的http上传, 支持http断点续传,断线重连。 服务器端即时写入硬盘,因此无需再次调用move_uploaded_file、InputStreamReader 这种需要缓存的技术来避免服务器内存占用与浏览器请求超时; 并且支持获取文件上传进度。 支持断点续传的思路是: 客户端(通常是浏览器)向服务器端上传某个文件,服务器端不断记录上传的进度,如果一旦掉线或发生其它异常,客户端可以向服务器查询某个文件已经上传的状态,从上次上传的文件位置接着上传。 网上也有大师采用分片文件上传方式来实现大文件上传,方法是将文件切成小片,例如4MB一个片段,服务器端每次接收一小片文件保存成一个临时文件,等待所有片段传输完毕后,再执行合并。笔者认为,如果原始文件足够小,这种方式是可以的,但一旦文件有几百兆或者几个GB或者几十个GB,则合并文件的时间会非常长,常常导致浏览器响应超时或服务器阻塞。 如果自己实现独立客户端(或浏览器的ActiveX插件)来上传文件,则支持断点续传将是一件非常简单的事情,只需在客户端记录文件上传状态。而支持浏览器断点续传(无需安装第三方插件)一般来说是要比自己做独立客户端上传难度大一些,但也不难。我的实现思路如下: 一、浏览器在上传某个文件时候,先给这个文件生成一个HASH值,必须在浏览器端生成这个HASH值。 不能单循地依据文件名来查询文件上传记录,文件名的重复性很大,文件名 + 文件尺寸组成的值重复性缩小,如果再加上文件修改时间,则重复性进一步缩小,如果再加上一个浏览器的 ID可以进一步缩小重复性冲突。最好的HASH值的计算方法是用文件的内容进行MD5计算,但计算量极大(其实也没有必要这么做),过多的耗时会影响上传的体验。 基于上述理由,我的HASH值计算思路如下: 首先给浏览器赋予一个ID,这个ID保存在Cookie里; 浏览器的 ID+ 文件的修改时间 + 文件名 + 文件尺寸 的结果进行MD5来计算一个文件的HASH值; 浏览器的ID 是系统在浏览器访问文件上传站点时自动给浏览器授予的。 二、查询文件的HASH值 在文件上传支持,先通过文件的HASH值从上传服务器查询文件的上传进度信息,然后从上传进度位置开始上传, 二、查询文件的HASH值 在文件上传支持,先通过文件的HASH值从上传服务器查询文件的上传进度信息,然后从上传进度位置开始上传,代码如下: var fileObj = currentfile; var fileid = getFileId(fileObj); var t = (new Date()).getTime(); //通过以下URL获取文件的断点续传信息,必须的参数为fileid,后面追加t参数是避免浏览器缓存 var url = resume_info_url + '?fileid='+fileid + '&t='+t; var ajax = new XMLHttpRequest(); ajax.onreadystatechange = function () { if(this.readyState == 4){ if (this.status == 200){ var response = this.responseText; var result = JSON.parse(response); if (!result) { alert('服务器返回的数据不正确,可能是不兼容的服务器'); return; } //断点续传信息返回的文件对象包含已经上传的尺寸 var uploadedBytes = result.file && result.file.size; if (!result.file.finished && uploadedBytes < fileObj.size) { upload_file(fileObj,uploadedBytes,fileid); } else { //文件已经上传完成了,就不要再上传了,直接返回结果就可以了 showUploadedFile(result.file); //模拟进度完成 //var progressBar = document.getElementById('progressbar'); //progressBar.value = 100; } }else { alert('获取文件断点续传信息失败'); } } } ajax.open('get',url,true); ajax.send(null); 以上是通过 jQuery-file-upload组件的实现,通过原始Javascript的实现代码请参见demos目录的h4resume.html样本代码。 三、执行上传 在查询完文件的断点续传信息后,如果文件确实以前已经上传,服务器将返回已经上传过的文件尺寸,我们接着从已经上传的文件尺寸位置开始上传数据即可。 html5的File对象的 slice 可以用于从文件切取片段来上传。 定义和用法 slice() 方法可提取字文件的某个部分,并以新的字符串返回被提取的部分。 语法 File.slice(start,end) 参数 描述 start 要抽取的片断的起始下标。如果是负数,则该参数规定的是从字符串的尾部开始算起的位置。 也就是说,-1 指字符串的最后一个字符,-2 指倒数第二个字符,以此类推。 end 紧接着要抽取的片段的结尾的下标。若未指定此参数,则要提取的子串包括 start 到原字符串结尾的字符串。 如果该参数是负数,那么它规定的是从字符串的尾部开始算起的位置。 实现分片文件上传的代码如下: /* 文件上传处理代码 fileObj : html5 File 对象 start_offset: 上传的数据相对于文件头的起始位置 fileid: 文件的ID,这个是上面的getFileId 函数获取的, */ function upload_file(fileObj,start_offset,fileid) { var xhr = new XMLHttpRequest(); var formData = new FormData(); var blobfile; if(start_offset >= fileObj.size){ return false; } var bitrateDiv = document.getElementById("bitrate"); var finishDiv = document.getElementById("finish"); var progressBar = document.getElementById('progressbar'); var progressDiv = document.getElementById('percent-label'); var oldTimestamp = 0; var oldLoadsize = 0; var totalFilesize = fileObj.size; if (totalFilesize == 0) return; var uploadProgress = function (evt) { if (evt.lengthComputable) { var uploadedSize = evt.loaded + start_offset; var percentComplete = Math.round(uploadedSize * 100 / totalFilesize); var timestamp = (new Date()).valueOf(); var isFinish = evt.loaded == evt.total; if (timestamp > oldTimestamp || isFinish) { var duration = timestamp - oldTimestamp; if (duration > 500 || isFinish) { var size = evt.loaded - oldLoadsize; var bitrate = (size * 8 / duration /1024) * 1000; //kbps if (bitrate > 1000) bitrate = Math.round(bitrate / 1000) + 'Mbps'; else bitrate = Math.round(bitrate) + 'Kbps'; var finish = evt.loaded + start_offset; if (finish > 1048576) finish = (Math.round(finish / (1048576/100)) / 100).toString() + 'MB'; else finish = (Math.round(finish / (1024/100) ) / 100).toString() + 'KB'; progressBar.value = percentComplete; progressDiv.innerHTML = percentComplete.toString() + '%'; bitrateDiv.innerHTML = bitrate; finishDiv.innerHTML = finish; oldTimestamp = timestamp; oldLoadsize = evt.loaded; } } } else { progressDiv.innerHTML = 'N/A'; } } xhr.onreadystatechange = function(){ if ( xhr.readyState == 4 && xhr.status == 200 ) { console.log( xhr.responseText ); } else if (xhr.status == 400) { } }; var uploadComplete = function (evt) { progressDiv.innerHTML = '100%'; var result = JSON.parse(evt.target.responseText); if (result.result == 'success') { showUploadedFile(result.files[0]); } else { alert(result.msg); } } var uploadFailed = function (evt) { alert("上传文件失败!"); } var uploadCanceled = function (evt) { alert("上传被取消或者浏览器断开了连接!"); } //设置超时时间,由于是上传大文件,因此千万不要设置超时 //xhr.timeout = 20000; //xhr.ontimeout = function(event){ // alert('文件上传时间太长,服务器在规定的时间内没有响应!'); //} xhr.overrideMimeType("application/octet-stream"); var filesize = fileObj.size; var blob = fileObj.slice(start_offset,filesize); var fileOfBlob = new File([blob], fileObj.name); //附加的文件数据应该放在请求的前面 formData.append('filename', fileObj.name); //必须将fileid信息传送给服务器,服务器只有在获得了fileid信息后才对文件做断点续传处理 formData.append('fileid', fileid); //请将文件数据放在最后的域 //formData.append("file",blob, fileObj.name); formData.append('file', fileOfBlob); xhr.upload.addEventListener("progress", uploadProgress, false); xhr.addEventListener("load", uploadComplete, false); xhr.addEventListener("error", uploadFailed, false); xhr.addEventListener("abort", uploadCanceled, false); xhr.open('POST', upload_file_url); // xhr.send(formData); } 通过HTML可以计算文件上传的进度,文件已经上传的尺寸,文件上传的位率等信息,如果在上传过程中出现任何异常,则重新上传即可,已经上传的部分将不需要重新上传。
支持高性能的大文件(大都数是4GB以上)的http上传, 支持http断点续传,断线重连。 服务器端即时写入硬盘,因此无需再次调用move_uploaded_file、InputStreamReader 这种需要缓存的技术来避免服务器内存占用与浏览器请求超时; 并且支持获取文件上传进度。 支持断点续传的思路是: 客户端(通常是浏览器)向服务器端上传某个文件,服务器端不断记录上传的进度,如果一旦掉线或发生其它异常,客户端可以向服务器查询某个文件已经上传的状态,从上次上传的文件位置接着上传。 网上也有大师采用分片文件上传方式来实现大文件上传,方法是将文件切成小片,例如4MB一个片段,服务器端每次接收一小片文件保存成一个临时文件,等待所有片段传输完毕后,再执行合并。笔者认为,如果原始文件足够小,这种方式是可以的,但一旦文件有几百兆或者几个GB或者几十个GB,则合并文件的时间会非常长,常常导致浏览器响应超时或服务器阻塞。 如果自己实现独立客户端(或浏览器的ActiveX插件)来上传文件,则支持断点续传将是一件非常简单的事情,只需在客户端记录文件上传状态。而支持浏览器断点续传(无需安装第三方插件)一般来说是要比自己做独立客户端上传难度大一些,但也不难。我的实现思路如下: 一、浏览器在上传某个文件时候,先给这个文件生成一个HASH值,必须在浏览器端生成这个HASH值。 不能单循地依据文件名来查询文件上传记录,文件名的重复性很大,文件名 + 文件尺寸组成的值重复性缩小,如果再加上文件修改时间,则重复性进一步缩小,如果再加上一个浏览器的 ID可以进一步缩小重复性冲突。最好的HASH值的计算方法是用文件的内容进行MD5计算,但计算量极大(其实也没有必要这么做),过多的耗时会影响上传的体验。 基于上述理由,我的HASH值计算思路如下: 首先给浏览器赋予一个ID,这个ID保存在Cookie里; 浏览器的 ID+ 文件的修改时间 + 文件名 + 文件尺寸 的结果进行MD5来计算一个文件的HASH值; 浏览器的ID 是系统在浏览器访问文件上传站点时自动给浏览器授予的。 二、查询文件的HASH值 在文件上传支持,先通过文件的HASH值从上传服务器查询文件的上传进度信息,然后从上传进度位置开始上传, 二、查询文件的HASH值 在文件上传支持,先通过文件的HASH值从上传服务器查询文件的上传进度信息,然后从上传进度位置开始上传,代码如下: var fileObj = currentfile; var fileid = getFileId(fileObj); var t = (new Date()).getTime(); //通过以下URL获取文件的断点续传信息,必须的参数为fileid,后面追加t参数是避免浏览器缓存 var url = resume_info_url + '?fileid='+fileid + '&t='+t; var ajax = new XMLHttpRequest(); ajax.onreadystatechange = function () { if(this.readyState == 4){ if (this.status == 200){ var response = this.responseText; var result = JSON.parse(response); if (!result) { alert('服务器返回的数据不正确,可能是不兼容的服务器'); return; } //断点续传信息返回的文件对象包含已经上传的尺寸 var uploadedBytes = result.file && result.file.size; if (!result.file.finished && uploadedBytes < fileObj.size) { upload_file(fileObj,uploadedBytes,fileid); } else { //文件已经上传完成了,就不要再上传了,直接返回结果就可以了 showUploadedFile(result.file); //模拟进度完成 //var progressBar = document.getElementById('progressbar'); //progressBar.value = 100; } }else { alert('获取文件断点续传信息失败'); } } } ajax.open('get',url,true); ajax.send(null); 以上是通过 jQuery-file-upload组件的实现,通过原始Javascript的实现代码请参见demos目录的h4resume.html样本代码。 三、执行上传 在查询完文件的断点续传信息后,如果文件确实以前已经上传,服务器将返回已经上传过的文件尺寸,我们接着从已经上传的文件尺寸位置开始上传数据即可。 html5的File对象的 slice 可以用于从文件切取片段来上传。 定义和用法 slice() 方法可提取字文件的某个部分,并以新的字符串返回被提取的部分。 语法 File.slice(start,end) 参数 描述 start 要抽取的片断的起始下标。如果是负数,则该参数规定的是从字符串的尾部开始算起的位置。 也就是说,-1 指字符串的最后一个字符,-2 指倒数第二个字符,以此类推。 end 紧接着要抽取的片段的结尾的下标。若未指定此参数,则要提取的子串包括 start 到原字符串结尾的字符串。 如果该参数是负数,那么它规定的是从字符串的尾部开始算起的位置。 实现分片文件上传的代码如下: /* 文件上传处理代码 fileObj : html5 File 对象 start_offset: 上传的数据相对于文件头的起始位置 fileid: 文件的ID,这个是上面的getFileId 函数获取的, */ function upload_file(fileObj,start_offset,fileid) { var xhr = new XMLHttpRequest(); var formData = new FormData(); var blobfile; if(start_offset >= fileObj.size){ return false; } var bitrateDiv = document.getElementById("bitrate"); var finishDiv = document.getElementById("finish"); var progressBar = document.getElementById('progressbar'); var progressDiv = document.getElementById('percent-label'); var oldTimestamp = 0; var oldLoadsize = 0; var totalFilesize = fileObj.size; if (totalFilesize == 0) return; var uploadProgress = function (evt) { if (evt.lengthComputable) { var uploadedSize = evt.loaded + start_offset; var percentComplete = Math.round(uploadedSize * 100 / totalFilesize); var timestamp = (new Date()).valueOf(); var isFinish = evt.loaded == evt.total; if (timestamp > oldTimestamp || isFinish) { var duration = timestamp - oldTimestamp; if (duration > 500 || isFinish) { var size = evt.loaded - oldLoadsize; var bitrate = (size * 8 / duration /1024) * 1000; //kbps if (bitrate > 1000) bitrate = Math.round(bitrate / 1000) + 'Mbps'; else bitrate = Math.round(bitrate) + 'Kbps'; var finish = evt.loaded + start_offset; if (finish > 1048576) finish = (Math.round(finish / (1048576/100)) / 100).toString() + 'MB'; else finish = (Math.round(finish / (1024/100) ) / 100).toString() + 'KB'; progressBar.value = percentComplete; progressDiv.innerHTML = percentComplete.toString() + '%'; bitrateDiv.innerHTML = bitrate; finishDiv.innerHTML = finish; oldTimestamp = timestamp; oldLoadsize = evt.loaded; } } } else { progressDiv.innerHTML = 'N/A'; } } xhr.onreadystatechange = function(){ if ( xhr.readyState == 4 && xhr.status == 200 ) { console.log( xhr.responseText ); } else if (xhr.status == 400) { } }; var uploadComplete = function (evt) { progressDiv.innerHTML = '100%'; var result = JSON.parse(evt.target.responseText); if (result.result == 'success') { showUploadedFile(result.files[0]); } else { alert(result.msg); } } var uploadFailed = function (evt) { alert("上传文件失败!"); } var uploadCanceled = function (evt) { alert("上传被取消或者浏览器断开了连接!"); } //设置超时时间,由于是上传大文件,因此千万不要设置超时 //xhr.timeout = 20000; //xhr.ontimeout = function(event){ // alert('文件上传时间太长,服务器在规定的时间内没有响应!'); //} xhr.overrideMimeType("application/octet-stream"); var filesize = fileObj.size; var blob = fileObj.slice(start_offset,filesize); var fileOfBlob = new File([blob], fileObj.name); //附加的文件数据应该放在请求的前面 formData.append('filename', fileObj.name); //必须将fileid信息传送给服务器,服务器只有在获得了fileid信息后才对文件做断点续传处理 formData.append('fileid', fileid); //请将文件数据放在最后的域 //formData.append("file",blob, fileObj.name); formData.append('file', fileOfBlob); xhr.upload.addEventListener("progress", uploadProgress, false); xhr.addEventListener("load", uploadComplete, false); xhr.addEventListener("error", uploadFailed, false); xhr.addEventListener("abort", uploadCanceled, false); xhr.open('POST', upload_file_url); // xhr.send(formData); } 通过HTML可以计算文件上传的进度,文件已经上传的尺寸,文件上传的位率等信息,如果在上传过程中出现任何异常,则重新上传即可,已经上传的部分将不需要重新上传。
评论 (
0
)
860072661
创建了
任务
860072661
修改了
描述
原值
支持高性能的大文件(大都数是4GB以上)的http上传,
支持http断点续传,断线重连。
服务器端即时写入硬盘,因此无需再次调用move_uploaded_file、InputStreamReader 这种需要缓存的技术来避免服务器内存占用与浏览器请求超时;
并且支持获取文件上传进度。
支持断点续传的思路是:
客户端(通常是浏览器)向服务器端上传某个文件,服务器端不断记录上传的进度,如果一旦掉线或发生其它异常,客户端可以向服务器查询某个文件已经上传的状态,从上次上传的文件位置接着上传。
网上也有大师采用分片文件上传方式来实现大文件上传,方法是将文件切成小片,例如4MB一个片段,服务器端每次接收一小片文件保存成一个临时文件,等待所有片段传输完毕后,再执行合并。笔者认为,如果原始文件足够小,这种方式是可以的,但一旦文件有几百兆或者几个GB或者几十个GB,则合并文件的时间会非常长,常常导致浏览器响应超时或服务器阻塞。
如果自己实现独立客户端(或浏览器的ActiveX插件)来上传文件,则支持断点续传将是一件非常简单的事情,只需在客户端记录文件上传状态。而支持浏览器断点续传(无需安装第三方插件)一般来说是要比自己做独立客户端上传难度大一些,但也不难。我的实现思路如下:
一、浏览器在上传某个文件时候,先给这个文件生成一个HASH值,必须在浏览器端生成这个HASH值。
不能单循地依据文件名来查询文件上传记录,文件名的重复性很大,文件名 + 文件尺寸组成的值重复性缩小,如果再加上文件修改时间,则重复性进一步缩小,如果再加上一个浏览器的 ID可以进一步缩小重复性冲突。最好的HASH值的计算方法是用文件的内容进行MD5计算,但计算量极大(其实也没有必要这么做),过多的耗时会影响上传的体验。
基于上述理由,我的HASH值计算思路如下:
首先给浏览器赋予一个ID,这个ID保存在Cookie里;
浏览器的 ID+ 文件的修改时间 + 文件名 + 文件尺寸 的结果进行MD5来计算一个文件的HASH值;
浏览器的ID 是系统在浏览器访问文件上传站点时自动给浏览器授予的。
二、查询文件的HASH值
在文件上传支持,先通过文件的HASH值从上传服务器查询文件的上传进度信息,然后从上传进度位置开始上传,
二、查询文件的HASH值
在文件上传支持,先通过文件的HASH值从上传服务器查询文件的上传进度信息,然后从上传进度位置开始上传,代码如下:
var fileObj = currentfile;
var fileid = getFileId(fileObj);
var t = (new Date()).getTime();
//通过以下URL获取文件的断点续传信息,必须的参数为fileid,后面追加t参数是避免浏览器缓存
var url = resume_info_url + '?fileid='+fileid + '&t='+t;
var ajax = new XMLHttpRequest();
ajax.onreadystatechange = function () {
if(this.readyState == 4){
if (this.status == 200){
var response = this.responseText;
var result = JSON.parse(response);
if (!result) {
alert('服务器返回的数据不正确,可能是不兼容的服务器');
return;
}
//断点续传信息返回的文件对象包含已经上传的尺寸
var uploadedBytes = result.file && result.file.size;
if (!result.file.finished && uploadedBytes < fileObj.size) {
upload_file(fileObj,uploadedBytes,fileid);
}
else {
//文件已经上传完成了,就不要再上传了,直接返回结果就可以了
showUploadedFile(result.file);
//模拟进度完成
//var progressBar = document.getElementById('progressbar');
//progressBar.value = 100;
}
}else {
alert('获取文件断点续传信息失败');
}
}
}
ajax.open('get',url,true);
ajax.send(null);
以上是通过 jQuery-file-upload组件的实现,通过原始Javascript的实现代码请参见demos目录的h4resume.html样本代码。
三、执行上传
在查询完文件的断点续传信息后,如果文件确实以前已经上传,服务器将返回已经上传过的文件尺寸,我们接着从已经上传的文件尺寸位置开始上传数据即可。
html5的File对象的 slice 可以用于从文件切取片段来上传。
定义和用法
slice() 方法可提取字文件的某个部分,并以新的字符串返回被提取的部分。
语法
File.slice(start,end)
参数 描述
start 要抽取的片断的起始下标。如果是负数,则该参数规定的是从字符串的尾部开始算起的位置。
也就是说,-1 指字符串的最后一个字符,-2 指倒数第二个字符,以此类推。
end 紧接着要抽取的片段的结尾的下标。若未指定此参数,则要提取的子串包括 start 到原字符串结尾的字符串。
如果该参数是负数,那么它规定的是从字符串的尾部开始算起的位置。
实现分片文件上传的代码如下:
/*
文件上传处理代码
fileObj : html5 File 对象
start_offset: 上传的数据相对于文件头的起始位置
fileid: 文件的ID,这个是上面的getFileId 函数获取的,
*/
function upload_file(fileObj,start_offset,fileid)
{
var xhr = new XMLHttpRequest();
var formData = new FormData();
var blobfile;
if(start_offset >= fileObj.size){
return false;
}
var bitrateDiv = document.getElementById("bitrate");
var finishDiv = document.getElementById("finish");
var progressBar = document.getElementById('progressbar');
var progressDiv = document.getElementById('percent-label');
var oldTimestamp = 0;
var oldLoadsize = 0;
var totalFilesize = fileObj.size;
if (totalFilesize == 0) return;
var uploadProgress = function (evt) {
if (evt.lengthComputable) {
var uploadedSize = evt.loaded + start_offset;
var percentComplete = Math.round(uploadedSize * 100 / totalFilesize);
var timestamp = (new Date()).valueOf();
var isFinish = evt.loaded == evt.total;
if (timestamp > oldTimestamp || isFinish) {
var duration = timestamp - oldTimestamp;
if (duration > 500 || isFinish) {
var size = evt.loaded - oldLoadsize;
var bitrate = (size * 8 / duration /1024) * 1000; //kbps
if (bitrate > 1000)
bitrate = Math.round(bitrate / 1000) + 'Mbps';
else
bitrate = Math.round(bitrate) + 'Kbps';
var finish = evt.loaded + start_offset;
if (finish > 1048576)
finish = (Math.round(finish / (1048576/100)) / 100).toString() + 'MB';
else
finish = (Math.round(finish / (1024/100) ) / 100).toString() + 'KB';
progressBar.value = percentComplete;
progressDiv.innerHTML = percentComplete.toString() + '%';
bitrateDiv.innerHTML = bitrate;
finishDiv.innerHTML = finish;
oldTimestamp = timestamp;
oldLoadsize = evt.loaded;
}
}
}
else {
progressDiv.innerHTML = 'N/A';
}
}
xhr.onreadystatechange = function(){
if ( xhr.readyState == 4 && xhr.status == 200 ) {
console.log( xhr.responseText );
}
else if (xhr.status == 400) {
}
};
var uploadComplete = function (evt) {
progressDiv.innerHTML = '100%';
var result = JSON.parse(evt.target.responseText);
if (result.result == 'success') {
showUploadedFile(result.files[0]);
}
else {
alert(result.msg);
}
}
var uploadFailed = function (evt) {
alert("上传文件失败!");
}
var uploadCanceled = function (evt) {
alert("上传被取消或者浏览器断开了连接!");
}
//设置超时时间,由于是上传大文件,因此千万不要设置超时
//xhr.timeout = 20000;
//xhr.ontimeout = function(event){
// alert('文件上传时间太长,服务器在规定的时间内没有响应!');
//}
xhr.overrideMimeType("application/octet-stream");
var filesize = fileObj.size;
var blob = fileObj.slice(start_offset,filesize);
var fileOfBlob = new File([blob], fileObj.name);
//附加的文件数据应该放在请求的前面
formData.append('filename', fileObj.name);
//必须将fileid信息传送给服务器,服务器只有在获得了fileid信息后才对文件做断点续传处理
formData.append('fileid', fileid);
//请将文件数据放在最后的域
//formData.append("file",blob, fileObj.name);
formData.append('file', fileOfBlob);
xhr.upload.addEventListener("progress", uploadProgress, false);
xhr.addEventListener("load", uploadComplete, false);
xhr.addEventListener("error", uploadFailed, false);
xhr.addEventListener("abort", uploadCanceled, false);
xhr.open('POST', upload_file_url);
//
xhr.send(formData);
}
新值
支持高性能的大文件(大都数是4GB以上)的http上传,
支持http断点续传,断线重连。
服务器端即时写入硬盘,因此无需再次调用move_uploaded_file、InputStreamReader 这种需要缓存的技术来避免服务器内存占用与浏览器请求超时;
并且支持获取文件上传进度。
支持断点续传的思路是:
客户端(通常是浏览器)向服务器端上传某个文件,服务器端不断记录上传的进度,如果一旦掉线或发生其它异常,客户端可以向服务器查询某个文件已经上传的状态,从上次上传的文件位置接着上传。
网上也有大师采用分片文件上传方式来实现大文件上传,方法是将文件切成小片,例如4MB一个片段,服务器端每次接收一小片文件保存成一个临时文件,等待所有片段传输完毕后,再执行合并。笔者认为,如果原始文件足够小,这种方式是可以的,但一旦文件有几百兆或者几个GB或者几十个GB,则合并文件的时间会非常长,常常导致浏览器响应超时或服务器阻塞。
如果自己实现独立客户端(或浏览器的ActiveX插件)来上传文件,则支持断点续传将是一件非常简单的事情,只需在客户端记录文件上传状态。而支持浏览器断点续传(无需安装第三方插件)一般来说是要比自己做独立客户端上传难度大一些,但也不难。我的实现思路如下:
一、浏览器在上传某个文件时候,先给这个文件生成一个HASH值,必须在浏览器端生成这个HASH值。
不能单循地依据文件名来查询文件上传记录,文件名的重复性很大,文件名 + 文件尺寸组成的值重复性缩小,如果再加上文件修改时间,则重复性进一步缩小,如果再加上一个浏览器的 ID可以进一步缩小重复性冲突。最好的HASH值的计算方法是用文件的内容进行MD5计算,但计算量极大(其实也没有必要这么做),过多的耗时会影响上传的体验。
基于上述理由,我的HASH值计算思路如下:
首先给浏览器赋予一个ID,这个ID保存在Cookie里;
浏览器的 ID+ 文件的修改时间 + 文件名 + 文件尺寸 的结果进行MD5来计算一个文件的HASH值;
浏览器的ID 是系统在浏览器访问文件上传站点时自动给浏览器授予的。
二、查询文件的HASH值
在文件上传支持,先通过文件的HASH值从上传服务器查询文件的上传进度信息,然后从上传进度位置开始上传,
二、查询文件的HASH值
在文件上传支持,先通过文件的HASH值从上传服务器查询文件的上传进度信息,然后从上传进度位置开始上传,代码如下:
var fileObj = currentfile;
var fileid = getFileId(fileObj);
var t = (new Date()).getTime();
//通过以下URL获取文件的断点续传信息,必须的参数为fileid,后面追加t参数是避免浏览器缓存
var url = resume_info_url + '?fileid='+fileid + '&t='+t;
var ajax = new XMLHttpRequest();
ajax.onreadystatechange = function () {
if(this.readyState == 4){
if (this.status == 200){
var response = this.responseText;
var result = JSON.parse(response);
if (!result) {
alert('服务器返回的数据不正确,可能是不兼容的服务器');
return;
}
//断点续传信息返回的文件对象包含已经上传的尺寸
var uploadedBytes = result.file && result.file.size;
if (!result.file.finished && uploadedBytes < fileObj.size) {
upload_file(fileObj,uploadedBytes,fileid);
}
else {
//文件已经上传完成了,就不要再上传了,直接返回结果就可以了
showUploadedFile(result.file);
//模拟进度完成
//var progressBar = document.getElementById('progressbar');
//progressBar.value = 100;
}
}else {
alert('获取文件断点续传信息失败');
}
}
}
ajax.open('get',url,true);
ajax.send(null);
以上是通过 jQuery-file-upload组件的实现,通过原始Javascript的实现代码请参见demos目录的h4resume.html样本代码。
三、执行上传
在查询完文件的断点续传信息后,如果文件确实以前已经上传,服务器将返回已经上传过的文件尺寸,我们接着从已经上传的文件尺寸位置开始上传数据即可。
html5的File对象的 slice 可以用于从文件切取片段来上传。
定义和用法
slice() 方法可提取字文件的某个部分,并以新的字符串返回被提取的部分。
语法
File.slice(start,end)
参数 描述
start 要抽取的片断的起始下标。如果是负数,则该参数规定的是从字符串的尾部开始算起的位置。
也就是说,-1 指字符串的最后一个字符,-2 指倒数第二个字符,以此类推。
end 紧接着要抽取的片段的结尾的下标。若未指定此参数,则要提取的子串包括 start 到原字符串结尾的字符串。
如果该参数是负数,那么它规定的是从字符串的尾部开始算起的位置。
实现分片文件上传的代码如下:
/*
文件上传处理代码
fileObj : html5 File 对象
start_offset: 上传的数据相对于文件头的起始位置
fileid: 文件的ID,这个是上面的getFileId 函数获取的,
*/
function upload_file(fileObj,start_offset,fileid)
{
var xhr = new XMLHttpRequest();
var formData = new FormData();
var blobfile;
if(start_offset >= fileObj.size){
return false;
}
var bitrateDiv = document.getElementById("bitrate");
var finishDiv = document.getElementById("finish");
var progressBar = document.getElementById('progressbar');
var progressDiv = document.getElementById('percent-label');
var oldTimestamp = 0;
var oldLoadsize = 0;
var totalFilesize = fileObj.size;
if (totalFilesize == 0) return;
var uploadProgress = function (evt) {
if (evt.lengthComputable) {
var uploadedSize = evt.loaded + start_offset;
var percentComplete = Math.round(uploadedSize * 100 / totalFilesize);
var timestamp = (new Date()).valueOf();
var isFinish = evt.loaded == evt.total;
if (timestamp > oldTimestamp || isFinish) {
var duration = timestamp - oldTimestamp;
if (duration > 500 || isFinish) {
var size = evt.loaded - oldLoadsize;
var bitrate = (size * 8 / duration /1024) * 1000; //kbps
if (bitrate > 1000)
bitrate = Math.round(bitrate / 1000) + 'Mbps';
else
bitrate = Math.round(bitrate) + 'Kbps';
var finish = evt.loaded + start_offset;
if (finish > 1048576)
finish = (Math.round(finish / (1048576/100)) / 100).toString() + 'MB';
else
finish = (Math.round(finish / (1024/100) ) / 100).toString() + 'KB';
progressBar.value = percentComplete;
progressDiv.innerHTML = percentComplete.toString() + '%';
bitrateDiv.innerHTML = bitrate;
finishDiv.innerHTML = finish;
oldTimestamp = timestamp;
oldLoadsize = evt.loaded;
}
}
}
else {
progressDiv.innerHTML = 'N/A';
}
}
xhr.onreadystatechange = function(){
if ( xhr.readyState == 4 && xhr.status == 200 ) {
console.log( xhr.responseText );
}
else if (xhr.status == 400) {
}
};
var uploadComplete = function (evt) {
progressDiv.innerHTML = '100%';
var result = JSON.parse(evt.target.responseText);
if (result.result == 'success') {
showUploadedFile(result.files[0]);
}
else {
alert(result.msg);
}
}
var uploadFailed = function (evt) {
alert("上传文件失败!");
}
var uploadCanceled = function (evt) {
alert("上传被取消或者浏览器断开了连接!");
}
//设置超时时间,由于是上传大文件,因此千万不要设置超时
//xhr.timeout = 20000;
//xhr.ontimeout = function(event){
// alert('文件上传时间太长,服务器在规定的时间内没有响应!');
//}
xhr.overrideMimeType("application/octet-stream");
var filesize = fileObj.size;
var blob = fileObj.slice(start_offset,filesize);
var fileOfBlob = new File([blob], fileObj.name);
//附加的文件数据应该放在请求的前面
formData.append('filename', fileObj.name);
//必须将fileid信息传送给服务器,服务器只有在获得了fileid信息后才对文件做断点续传处理
formData.append('fileid', fileid);
//请将文件数据放在最后的域
//formData.append("file",blob, fileObj.name);
formData.append('file', fileOfBlob);
xhr.upload.addEventListener("progress", uploadProgress, false);
xhr.addEventListener("load", uploadComplete, false);
xhr.addEventListener("error", uploadFailed, false);
xhr.addEventListener("abort", uploadCanceled, false);
xhr.open('POST', upload_file_url);
//
xhr.send(formData);
}
通过HTML可以计算文件上传的进度,文件已经上传的尺寸,文件上传的位率等信息,如果在上传过程中出现任何异常,则重新上传即可,已经上传的部分将不需要重新上传。
展开全部操作日志
折叠全部操作日志
登录
后才可以发表评论
状态
待办的
待办的
进行中
已完成
已关闭
负责人
未设置
标签
未设置
标签管理
里程碑
未关联里程碑
未关联里程碑
Pull Requests
未关联
未关联
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
未关联
分支 (7)
标签 (12)
master
dependabot/go_modules/golang.org/x/image-0.5.0
dependabot/go_modules/golang.org/x/sys-0.1.0
dependabot/go_modules/github.com/gin-gonic/gin-1.9.1
dependabot/go_modules/golang.org/x/crypto-0.1.0
develop
v1
v2.0.2
v2.0.1
v0.1.9
v0.1.8
v0.1.7
v0.1.6
v0.1.5
v0.1.4
v0.1.3
v0.1.2
v0.1.1
v0.1.0
开始日期   -   截止日期
-
置顶选项
不置顶
置顶等级:高
置顶等级:中
置顶等级:低
优先级
不指定
严重
主要
次要
不重要
参与者(1)
Go
1
https://gitee.com/b0cloud/b0pass.git
git@gitee.com:b0cloud/b0pass.git
b0cloud
b0pass
百灵快传 b0pass
点此查找更多帮助
搜索帮助
Git 命令在线学习
如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大,如何减小?
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release(发行版)
将 PHP 项目自动发布到 packagist.org
评论
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号,请先登录后再操作。
立即登录
没有帐号,去注册