本文共 3099 字,大约阅读时间需要 10 分钟。
上月,由极客邦、InfoQ和听云联合主办圆满落下帷幕。会上,分享了《Java and the Machine (Why analytics matter)》,讨论了为什么数据分析至关重要。他有着十多年Java经验,目前是创业公司jClarity的CEO,jClarity是一款采用统计和机器学习来探究性能问题根源的方案。会后,InfoQ还专访Martijn以进一步了解沟通。
\\Java和JVM面临怎样的困境?
\\Martijn分享了他对Java现状和JVM性能调优的担忧和思考,他认为现在Java和JVM面临下面五个问题:
\\关于Java和JVM性能调优的思考
\\除了上述的整体层面的挑战之外,Java的性能本身又很难监测。必须结合其他的指标来间接把控:CPU,内存;接口I/O,网络I/O;虚拟化和容器化等。可是一旦获得了这些指标,又带来了大数据的问题。因为我们盲目地收集了过多的数据,这造成了巨大的性能损害,因为收集、传输、存储每个过程都是一种消耗。
\\要记住目的是分析获得信息,而不是收集指标。但是从指标数据到提炼出有用信息很难,Martijn认为要做好性能调优需要明白规律和原理(如Little's law和Amdahl’s law),理解硬件、操作系统、Java工作原理还要读懂代码,并且已经有了基于大量数据的分析经验。
\\Martijn认为未来性能监测的趋势是高级统计和机器学习方式的结合,这种模式将取代传统的单纯指标采集模式。
\\对话Martijn
\\InfoQ:通常来说,JVM层面的APM工具并不适用于生产环境。那为什么您称jClarity可以?
\\\\\Martijn:与其他工具相比,首先在JVM层面上我们获取更少的数据。 jClarity之所以可以更少地获取,是因为我们采用了机器学习的办法,辨别除了哪些才是真正有用的数据,我们称之为“信号”,余下的数据我们称之为噪声。在收集数据过程中,一旦检测噪声,我们立刻对过滤。
\\其次我们还会尽可能避免从JVM本身获取数据,取而代之从JVM的日志中(如GC日志、safepoint日志)等获取数据。目前我们还在和Google合作,在尝试怎样从JVM之外,获得更多的信息。但是,总体而言,jClarity用于生产环境是没有问题的。
\
InfoQ:为什么还要收集JMV的日志之外的数据呢?
\\\\\Martijn:因为JVM日志并不能给我们足够的信息。你可以从JVM日志中获得,或者通过JMX接口。不过,你也可以通过设定一个Java或者原生的agent来获得更特定的信息;但这是一种过重的做法,通常而言并不推荐。很多人包括Oracle在内都意识到了这个问题,但是完全解决有待时日。
\
InfoQ:数据收集的过程是否对用户来说是透明的呢?是否支持ASM字节码织入技术呢?
\\\\\Martijn:是的。底层的数据,我们不仅仅从Java中获得,还会从操作系统中获取。比如,当用户在Linux上运行,那么他还会看见收集到的CPU、内存使用率等信息。
\\对于有特殊需求的用户,他们是可以采用ASM,此外我们也提供一个开发阶段使用的库,但是建议用户小心使用,因为很容易会产生操作不当。
\
InfoQ:数据收集之后,jClarity根据机器学习出来的成果进行了处理,能否和我们分享下机器学习的事情?
\\\\\Martijn:我想分享这里非常重要的一点:我们有大量多环境的用户数据,用户们的程序也是多种多样,如网页程序、视频流程序等;我们会施加不同的网络压力,这样我们得到了数据训练集。这些数据集是专家人工操作产生的。同时在实时收集处理数据的时候,我们也会进行机器学习。比如发现Java性能受到影响,机器学习认定最重要一个因素就是GC垃圾回收,那么接下来就是调查GC;如果GC没有问题,那么就会在机器学习成果的指引下开始下一个因素的勘察。总体而言,机器学习的决定了发生问题时排查的路径。
\\机器学习这部分的研发工作我们做了两年,也很感谢这些用户为我们付费并且同意我们这样做。我们的一些用户拥有超大规模,这种情况下,已经无法指望人工对数据进行分析;所以对于我们来说,机器学习是唯一的出路,唯一的方式可以让我们继续支持用户。
\
InfoQ:APM工具的挑战有哪些?
\\\\\Martijn:首先是IT环境复杂性的加剧。你的代码不再跑在你自己的机器和环境中,你无法做到100%确定你的程序和代码是怎样被管理的。另外一个挑战就是网络是不稳定的。在有线光纤专用网络上,你不需要和其他人共享;但是在公用云上,网路流量徒增的情况时有发生,开发人员不得不在代码层面上面对这个挑战,APM工具也必须理解并迎面这个问题。目前,还没有哪个APM工具可以胜任这两个挑战,所以目前这还是一个非常有趣有待研究的领域。
\
InfoQ:您在演讲中有提到,Java创立之初硬件并没有今天这样复杂,那么是不是说Java已经不再适合今天了呢?你认为Java语言的独特魅力在哪里呢?
\\\\\Martijn:“Java将死”的留言每年都有。Java语言这么多年,经常遇到新兴语言的挑战,但是新兴语言很快就会发现自己也处于一个类似的局面。我认为Java依然是一个合适的语言,JVM正在尝试在各种情况下都做到最好。我们可以看到Go、RUST语言变得越来越火,但是Oracle正在非常努力地攻克这点,包括更频繁地发布Java,也很想快速地跟上包括支持GPU、其他新型硬件设备等。所以说挑战是有的,但是令人高兴的是很多大公司都愿意继续努力提高Java。我希望Java社区可以更开放些,可以欢迎更多的公司参与,比如阿里巴巴,阿里巴巴可能是全球上最大的重度Java研发群。
\\Java的魅力在于易写性、强可读性。不像现在的一些语言,你不需要严格地按照某种规范来写代码。就算代码写完五年之后,新来的人依然可以读懂代码。还有就是Java丰富的框架和库。甚至这些框架和库的魅力可以和Java语言本身相媲美。
\
感谢对本文的审校。
转载地址:http://xonna.baihongyu.com/