BigBear's Blog

Do The Right Thing!


  • 首页

  • 分类

  • 归档

  • 标签

  • 关于

  • 公益404

  • 搜索

spark常见问题解决方法

发表于 2016-09-24 | 分类于 Spark | 阅读次数
对于Spark程序优化,应从如下几点进行:  1. 通过监控CPU、内存、网络、IO、GC、应用指标等数据,切实找到系统的瓶颈点。  2. 统筹全局,制定相应的解决方案,解决问题的思路是否清晰准确很重要,切勿『头疼医头,脚疼医脚』,应总体考虑把握。  ...
阅读全文 »

Spark 学习笔记

发表于 2016-09-11 | 分类于 Spark | 阅读次数
以下是在学习和使用spark过程中遇到的一些问题,记录下来。 1. 首先来说说spark任务运行完后查错最常用的一个命令,那就是把任务运行日志down下来。 程序存在错误,将日志down下来查看具体原因!down日志命令:yarn logs -applicationId app_id 2. ...
阅读全文 »

Spark资料链接汇总

发表于 2016-09-10 | 分类于 Spark | 阅读次数
【SparkX】 基于Spark Graphx的大规模用户图计算和应用 快刀初试:Spark GraphX在淘宝的实践 Spark中文手册9:Spark GraphX编程指南 Spark Graphx:构建graph和聚合消息 GraphX Programming Guide Spark的Graph ...
阅读全文 »

Pelican环境搭建&Markdown学习小记

发表于 2016-09-09 | 分类于 Notes | 阅读次数
Pelican环境搭建笔记 将md文档编译为html,并输出到output目录命令: 1pelican content 在命令行里面切换到output目录下面,启动Pelican的本地web服务命令: 1python -m SimpleHTTPServer pelican所有插件安装均在pe ...
阅读全文 »
1…34
sj_mei

sj_mei

BigData & ML & DL

19 日志
4 分类
17 标签
RSS
GitHub Linkedin Weibo CSDN
© 2017 sj_mei
由 Hexo 强力驱动
主题 - NexT.Mist