使用Java/Kotlin编写的JVM字节码执行引擎

JAVA字节码执行引擎

传统的Java动态调试只能基于源代码级别，无法在没有源代码或混淆的Java类文件的情况下进行动态调试。

Java程序的运行是基于JVM虚拟机，它执行字节码。我们使用 Kotlin 构建了 JVM 字节码执行引擎，它允许我们使用 IntelliJ IDEA 等现代 IDE 在字节码级别调试 Java 程序，以观察程序在执行过程中的行为。

注意，本项目仅用于学习和研究JVM运行原理以及分析恶意程序。严禁将其用于非法目的。

先决条件知识基础

在使用本项目之前，请确保您具备以下知识基础。

  1. 理解Java类文件的格式
  2. 理解JVM中每个字节码的作用和意义

使用IDEA在字节码级别进行调试

git clone https://github.com/vlinx-io/vlx-vmengine-jvm.git

使用IDEA打开此项目（需要JDK 17），然后导航到TestCases

TestCases中有两个测试用例，一个用于执行静态方法，一个用于执行实例方法，分别命名为executeStaticMethod和executeVirtualMethod。

在相应的方法中，填写信息，例如classPath,className,methodName和methodSignature。可以使用查看类文件的详细信息类查看器。

直接运行

以以下代码的编译类文件为例

public class Hello {

    public void hello() {
        System.out.println("hello");
    }

    public static void main(String[] args) {
        System.out.println("Hello World!");
    }
}

执行executeVirtualMethod，运行这个类的hello方法。

val classPath = "your-classpath"
val className = "Hello"
val methodName = "hello"
val methodSignature = "()V"
val args = listOf<Any?>()

val url = File(classPath).toURI().toURL()
val urls = arrayOf(url)
val loader = VlxClassLoader(urls)

val clazz = loader.loadClass(className)

val method = ClassUtils.getMethod(clazz, methodName, methodSignature, loader)
val instance = clazz.getDeclaredConstructor().newInstance()


val thread = VMThread(VMEngine.instance, loader)
thread.execute(instance, method!!, args, true, 0)

您可以在控制台上得到以下输出。

2023-05-21 17:51:10 [DEBUG] Execute method: public void Hello.hello()
2023-05-21 17:51:10 [DEBUG] Receiver: Hello@3daf7722
2023-05-21 17:51:10 [DEBUG] Args: []
2023-05-21 17:51:11 [DEBUG] LocalVars: [kotlin.Unit]
2023-05-21 17:51:11 [DEBUG] "L0: GETSTATIC"
2023-05-21 17:51:11 [DEBUG] "#7"
2023-05-21 17:51:11 [DEBUG] public static final java.io.PrintStream java.lang.System.out
2023-05-21 17:51:11 [DEBUG] "push" org.gradle.internal.io.LinePerThreadBufferingOutputStream@6aa3a905
2023-05-21 17:51:11 [DEBUG] "L3: LDC"
2023-05-21 17:51:11 [DEBUG] "#13"
2023-05-21 17:51:11 [DEBUG] "hello"
2023-05-21 17:51:11 [DEBUG] "push" "hello"
2023-05-21 17:51:11 [DEBUG] "L5: INVOKEVIRTUAL"
2023-05-21 17:51:11 [DEBUG] "#15"
2023-05-21 17:51:11 [DEBUG] "class java.io.PrintStream, NameAndType(name='println', type='(Ljava/lang/String;)V')"
2023-05-21 17:51:11 [DEBUG] public void java.io.PrintStream.println(java.lang.String)
2023-05-21 17:51:11 [DEBUG] "pop" "hello"
2023-05-21 17:51:11 [DEBUG] "pop" org.gradle.internal.io.LinePerThreadBufferingOutputStream@6aa3a905
2023-05-21 17:51:11 [DEBUG] 	Execute method: public void org.gradle.internal.io.LinePerThreadBufferingOutputStream.println(java.lang.String)
2023-05-21 17:51:11 [DEBUG] 	Receiver: org.gradle.internal.io.LinePerThreadBufferingOutputStream@6aa3a905
2023-05-21 17:51:11 [DEBUG] 	Args: [org.gradle.internal.io.LinePerThreadBufferingOutputStream@6aa3a905, hello]
2023-05-21 17:51:11 [ERROR] Can't parse class class org.gradle.internal.io.LinePerThreadBufferingOutputStream
hello
2023-05-21 17:51:11 [DEBUG] "L8: RETURN"

控制台输出显示该方法的所有字节码指令、指令执行过程中堆栈的变化以及每条字节码指令的结果。

调试

如果您需要调试字节码指令，可以在之前和之后设置断点execute()在方法中VMExecutor。

 fun execute() {
    while (true) {
        try {
            pc = sequence.index()
            val opcode = sequence.readUnsignedByte().toShort()
            if (execute(opcode)) {
                break
            }
        } catch (vme: VlxVmException) {
            Logger.FATAL(vme)
            exitProcess(1)
        } catch (t: Throwable) {
            handleException(t)
        }

    }
}

调试子方法字节码

默认情况下，虚拟引擎只解释并执行指定方法的字节码。指定方法内调用的子方法仍然在 JVM 中运行，以避免多层调用带来显着的性能开销。如果希望所有方法都由虚拟引擎解释执行，请修改io.vlinx.vmengine.Options和改变handleSubMethod 为真。